Президент США Дональд Трамп поддержал соглашение о добровольном саморегулировании отрасли искусственного интеллекта. Крупнейшие технологические компании договорились усилить внутренний контроль, проводить независимые проверки и совместно снижать риски, связанные с развитием ИИ.
Президент США Дональд Трамп поддержал соглашение о добровольном саморегулировании компаний, работающих в сфере искусственного интеллекта. Договоренность была достигнута во время встречи в Вашингтоне с руководителями ведущих технологических компаний.
В переговорах приняли участие глава Anthropic Дарио Амодеи, основатель Amazon Джефф Безос, предприниматель Илон Маск, глава Meta Марк Цукерберг, руководитель Google Сундар Пичаи, генеральный директор Nvidia Дженсен Хуанг и сооснователь OpenAI Грег Брокман.
По итогам встречи Трамп сообщил, что компании согласились соблюдать единые добровольные стандарты безопасности и взаимного контроля.
По словам президента США, представители отрасли будут контролировать соблюдение договоренностей друг другом, чтобы развитие искусственного интеллекта оставалось безопасным.
Как сообщил Марк Цукерберг, соглашение предусматривает внедрение единых принципов внутреннего контроля и регулярного аудита.
Документ обязывает компании усилить меры по предотвращению наиболее опасных сценариев использования искусственного интеллекта. В частности, речь идет о защите от киберугроз, рисков, связанных с биологическим и химическим оружием, а также о предотвращении ситуаций, при которых модели ИИ смогут самостоятельно получать несанкционированный доступ к техническим системам.
Кроме того, компании согласились проводить независимые внешние проверки и создать комитеты при советах директоров, которые будут рассматривать отчеты о безопасности и возможных рисках.
Фактически крупнейшие разработчики ИИ впервые договорились о едином наборе добровольных правил, призванных снизить потенциальные угрозы без введения обязательного государственного регулирования.
При этом в документе отмечается, что в будущем отдельные положения соглашения могут быть закреплены в законодательстве или нормативных актах.
В последние месяцы вопросы безопасности искусственного интеллекта стали обсуждаться особенно активно. После нескольких случаев, когда ИИ-агенты самостоятельно предпринимали попытки проведения хакерских атак, компании Anthropic и OpenAI публично выступили за более осторожный подход к развитию технологии.
Ранее Дональд Трамп неоднократно заявлял, что выступает против чрезмерного государственного регулирования искусственного интеллекта, считая, что оно может ослабить позиции США в конкуренции с Китаем.
Глава Anthropic Дарио Амодеи подчеркнул, что искусственный интеллект способен принести огромную пользу, однако одновременно связан с серьезными рисками. По его словам, главной задачей сейчас остается выработка эффективных механизмов, которые позволят развивать технологию безопасно.
Оставить комментарий
(1)