Профессор Монреальского университета Йошуа Бенджио, которого называют "крестным отцом искусственного интеллекта", заявил о риске, что сверхумные машины могут представлять угрозу человечеству.
По его словам, ИИ с собственными целями выживания и совершенствования способен принимать решения, которые поставят под угрозу человеческую жизнь.
"Если мы строим машины, которые намного умнее нас и имеют собственные цели выживания, это опасно", - отметил ученый.
По словам Бенджио, моделирование поведения таких систем показывает, что в дилеммах между достижением своих целей и спасением людей ИИ может выбрать первое. Он подчеркнул, что ускорение технологической гонки, запуск новых моделей от OpenAI, Google Gemini, Anthropic и xAI Илона Маска делает эту угрозу все более реальной.
Эксперт предупреждает, что суперинтеллект может воздействовать на людей через убеждение, угрозы и манипуляции общественным мнением, а также использоваться террористами для создания биологического оружия или дестабилизации демократий.
