Руководители крупнейших компаний в сфере искусственного интеллекта призвали Совет Безопасности ООН ускорить разработку международных правил для ИИ. По их мнению, главные угрозы связаны с возможной потерей контроля над технологиями и концентрацией слишком большой власти в руках отдельных государств или компаний.
На заседании Совета Безопасности ООН руководители ведущих компаний, занимающихся разработкой искусственного интеллекта, призвали мировое сообщество к более тесному международному сотрудничеству в вопросах регулирования ИИ.
Генеральный директор OpenAI Сэм Альтман заявил, что нынешний этап развития технологии требует особой осторожности.
«Перед нами стоит выбор. Искусственный интеллект может стать либо новой эпохой творчества и открытий, либо новой промышленной революцией, сопровождающейся хаосом и беспорядком», — сказал Альтман.
По его словам, сегодня существуют две ключевые угрозы. Первая — стремительное развитие систем, которое может привести к тому, что люди перестанут успевать контролировать происходящее.
«Опасность заключается в том, что он будет развиваться настолько быстро, что люди уже не смогут следить за происходящим или вмешиваться, когда это необходимо», — отметил глава OpenAI.
Второй риск, по мнению Альтмана, заключается в чрезмерной концентрации влияния.
«Ни один человек, компания или государство не должны иметь возможность использовать самые мощные модели искусственного интеллекта для навязывания своего мировоззрения другим», — подчеркнул он.
Глава OpenAI добавил, что отрасли необходимо избегать как неоправданного риска ради быстрого прогресса, так и чрезмерного пессимизма, способного затормозить развитие технологий.
С аналогичными предупреждениями выступил генеральный директор Anthropic Дарио Амодеи. Он назвал искусственный интеллект одной из важнейших тем глобальной безопасности.
«Я даже считаю, что плохо контролируемый искусственный интеллект может представлять угрозу для всего человечества», — заявил Амодеи.
Он предложил установить международные стандарты испытаний новых моделей ИИ и запретить использование искусственного интеллекта при разработке биологического оружия.
Обсуждение в Совете Безопасности прошло на фоне усиливающихся международных дискуссий о необходимости регулирования искусственного интеллекта. В последние месяцы представители отрасли, ученые и политики все чаще говорят не только о возможностях новых технологий, но и о рисках, связанных с их быстрым развитием.
При этом вопрос о темпах развития ИИ остается предметом споров. Часть представителей индустрии выступает за более жесткие меры безопасности, тогда как другие считают, что чрезмерное регулирование может ослабить позиции западных стран в технологической конкуренции с Китаем.
В ходе заседания также упоминался недавний инцидент, связанный с системами Hugging Face. Участники обсуждения ссылались на него как на пример потенциальных рисков, однако публично представленные оценки обстоятельств произошедшего и его причин остаются предметом обсуждения.
В итоге участники заседания сошлись во мнении, что дальнейшее развитие искусственного интеллекта потребует не только технологических прорывов, но и согласованных международных правил, которые позволят использовать новые возможности, одновременно снижая потенциальные угрозы.
Оставить комментарий