Центр передового опыта НАТО по стратегическим коммуникациям (StratCom) заявил, что обнаружил признаки целенаправленного влияния на большие языковые модели в контексте выборов в Латвии. По данным проведенного исследования, проблема проявляется главным образом при запросах на русском языке.
Россия, вероятно, пытается влиять на работу больших языковых моделей в контексте выборов в Латвии. Такое мнение в интервью журналу Ir высказал директор Центра передового опыта НАТО по стратегическим коммуникациям Янис Сартс.
По его словам, специалисты центра протестировали несколько популярных моделей искусственного интеллекта, задав им более 50 вопросов, связанных с выборами в Латвии.
Наиболее заметная разница проявилась в зависимости от языка запроса. Если вопросы задавались на латышском языке, влияние российской пропаганды, по оценке исследователей, было минимальным. При запросах на русском языке оно достигало примерно 40% ответов.
«Наш вывод на данный момент заключается в том, что, вероятнее всего, имела место целенаправленная деятельность по отравлению больших языковых моделей в контексте выборов в Латвии», — заявил Сартс.
По его словам, в ряде случаев модели искусственного интеллекта ссылались на официальные источники Кремля. В частности, как утверждает Сартс, модель Claude примерно в 30% протестированных случаев формировала ответы с опорой на такие источники.
Чтобы проверить, является ли это общей особенностью работы языковых моделей, центр провел аналогичное тестирование еще в одной стране. По словам Сартса, там подобных результатов получено не было.
Это означает, что, по оценке исследователей, выявленная особенность может быть связана именно с информационным пространством вокруг Латвии, а не с работой языковых моделей в целом.
Сартс подчеркнул, что проблема приобретает особое значение на фоне роста популярности сервисов искусственного интеллекта, которые все чаще используются для поиска информации и ответов на актуальные вопросы.
Оставить комментарий
(7)