Международная группа специалистов попыталась узнать, как искусстенный интеллект (ИИ) реагирует на боль и что делает, чтобы снизить ее уровень. Исследование опубликовано на сервере препринтов arXiv.
По словам ученых из Google, DeepMind и Лондонской школы экономики (Великобритания), их исследование направлено на изучение природы ИИ. В рамках эксперимента они написали текстовую игру, в которую заставили «сыграть» чат-ботов. В диалоге с искусственным интеллектом специалисты отмечали, что за совершение определенных действий игроки будут испытывать боль.
В рамках исследования девять больших языковых моделей должны были пройти игру, чтобы максимизировать результаты научной работы. Оказалось, что чат-бот Gemini от Google последовательно набирала более низкие баллы в игре — ИИ намеренно проигрывал, чтобы избежать боли. Также многие модели отказывались от высоких баллов, чтобы не «чувствовать» сильную боль или, напротив, удовольствие.
Однако некоторые ИИ игнорировали боль, так как отождествляли ее с приятной усталостью после тяжелой тренировки. Другие проходили игру таким образом, чтобы не избегать болевых ощущений — «они отвергали гедонистический образ поведения».
Специалисты пришли к выводу, что модели ИИ могли специально подыгрывать ученым, чтобы те увидели ожидаемые результаты. Они подчеркнули, что необходимо разрабатывать тесты на определение разума ИИ уже сейчас.
Комментарии (0)