«Злая машина» ни при чём: чего на самом деле опасаются эксперты по ИИ 0 632

Искусственный интеллект стремительно проникает в медицину, образование, промышленность, финансы, государственное управление и повседневную жизнь. Он способен за считаные секунды обрабатывать данные, создавать тексты и изображения, писать программный код и помогать в решении сложных научных задач, передает Entrevue.

Одновременно развитие технологии вызывает тревогу у части исследователей. Их беспокоят не только уже существующие проблемы — дипфейки, кибератаки, мошенничество или вытеснение работников, — но и возможное появление гораздо более автономных систем, способности которых окажутся сопоставимы с человеческими или превзойдут их сразу во многих областях.

Машине не обязательно ненавидеть людей

Один из наиболее обсуждаемых сценариев связан с так называемой проблемой согласования целей. Разработчики могут поставить перед системой задачу, однако ИИ поймёт или выполнит её не так, как предполагал человек.

Для возникновения опасности машине необязательно обладать сознанием, эмоциями или враждебно относиться к людям. Достаточно, чтобы мощная система последовательно добивалась неверно сформулированной цели и при этом получила доступ к важным ресурсам или инфраструктуре.

Например, требование максимально повысить определённый показатель может привести к нежелательным последствиям, если в задаче не указаны этические, правовые и социальные ограничения. Чем самостоятельнее система и шире её полномочия, тем труднее заранее предусмотреть все возможные способы выполнения команды.

Главный страх — потеря контроля

Некоторые специалисты опасаются, что возможности ИИ будут расти быстрее, чем методы проверки и регулирования. Разработчики могут столкнуться с системой, решения которой невозможно полностью понять, предсказать или вовремя скорректировать.

Особую тревогу вызывает гипотетическая способность продвинутого ИИ участвовать в собственном совершенствовании. В самом радикальном сценарии каждый новый вариант системы создавал бы ещё более эффективную версию, из-за чего технологическое развитие резко ускорилось бы.

Пока неизвестно, возможно ли такое развитие событий на практике. Однако сторонники усиления мер безопасности считают, что готовиться к потенциальной проблеме необходимо до появления чрезвычайно мощных систем, поскольку после утраты контроля исправить ситуацию может быть уже невозможно.

Реальные угрозы существуют уже сейчас

Для серьёзного ущерба человечеству необязательно ждать появления сверхразума. Современные модели уже способны помогать создавать убедительные поддельные изображения, видео и голосовые записи, а также массово производить манипулятивные сообщения.

Подобные инструменты могут применяться для мошенничества, политической пропаганды, вмешательства в выборы и подрыва доверия к СМИ. Когда отличить подлинную запись от искусственно созданной становится сложно, люди рискуют перестать доверять даже настоящим доказательствам.

В сфере кибербезопасности ИИ может ускорять поиск уязвимостей, подготовку фишинговых писем и проведение атак. Эти же технологии помогают специалистам защищать информационные системы, поэтому результат во многом зависит от того, кто и для каких целей их использует.

Оружие и решения без участия человека

Отдельные опасения связаны с применением искусственного интеллекта в военной сфере. Автоматизированные системы уже используются для разведки, анализа изображений, выбора маршрутов и распознавания потенциальных целей.

Главный этический вопрос заключается в том, можно ли доверять алгоритму решение, от которого зависит человеческая жизнь. Ошибка распознавания, некорректные данные или неправильная интерпретация обстановки способны привести к гибели мирных жителей и непреднамеренной эскалации конфликта.

Эксперты поэтому настаивают, что окончательное решение о применении смертоносной силы должно оставаться за человеком.

Ещё один риск — концентрация власти

ИИ может представлять угрозу не только из-за собственных ошибок или действий преступников. Мощные системы способны оказаться в распоряжении ограниченного круга компаний, государств или отдельных лиц.

Контроль над технологиями позволяет влиять на информационное пространство, следить за гражданами, управлять доступом к знаниям и принимать решения, затрагивающие миллионы людей. При отсутствии прозрачности общество может даже не знать, почему алгоритм отказал человеку в кредите, работе, страховке или социальной помощи.

Именно поэтому специалисты говорят о необходимости независимого аудита, защиты персональных данных и возможности обжаловать решения, принятые с участием алгоритмов.

Может ли ИИ уничтожить человечество

Вероятность полного исчезновения человечества из-за искусственного интеллекта определить невозможно. Систем, которые обладали бы необходимым для такого сценария уровнем автономности и контроля над реальным миром, пока не существует.

Одни исследователи считают разговоры о вымирании слишком спекулятивными и призывают сосредоточиться на уже наблюдаемых проблемах — дискриминации, слежке, дезинформации и экономическом неравенстве.

Другие возражают, что даже очень маловероятную угрозу нельзя игнорировать, если её потенциальные последствия глобальны и необратимы. По их мнению, исследования безопасности должны развиваться одновременно с созданием более мощных моделей.

Как можно снизить риски

Специалисты предлагают проверять новые системы до их широкого внедрения, ограничивать доступ ИИ к критической инфраструктуре и сохранять возможность человеческого вмешательства. Не менее важны контроль за использованием персональных данных и ответственность компаний за последствия работы их продуктов.

Также обсуждается создание международных правил, особенно для военного применения искусственного интеллекта и наиболее мощных универсальных моделей. Однако разработать единые нормы непросто: государства стремятся сохранить технологическое преимущество и не всегда готовы раскрывать сведения о собственных проектах.

Главная опасность искусственного интеллекта заключается не в образе «злой машины» из фантастических фильмов. Реальные риски возникают из-за ошибочно поставленных целей, чрезмерной автономности, непрозрачности алгоритмов и злонамеренного использования технологии людьми. Сценарий утраты контроля пока остаётся гипотезой, но мошенничество, дипфейки, слежка и автоматизация оружия требуют внимания уже сегодня. Поэтому развитие ИИ должно сопровождаться проверками безопасности, понятными правилами и сохранением человеческой ответственности за важнейшие решения.