Почему языковые модели ошибаются в оценке человеческих переживаний.
Новое исследование опровергает распространенное мнение, что сильные чувства обязательно выражаются длинными и подробными текстами.
Напротив, разрыв между сложностью рассказа и эмоциональной насыщенностью — это не ошибка, а осознанная коммуникативная стратегия. Искусственный интеллект, как выяснилось, плохо улавливает такие нюансы: его выразительный диапазон почти в 1,7 раза уже, чем у человека.
Ученые проанализировали 351 734 англоязычных рассказа об отношениях с открытых онлайн-форумов (2012–2023), сообщает PsyPost. Они сопоставили два параметра:
Нарративная сложность — объем, разнообразие словаря, плотность предложений.
Лингвистическая аффективная интенсивность — сила эмоциональной нагрузки в словах.
Ожидаемой связи между ними не оказалось. Сложные переживания могут быть выражены сдержанно, а сильный всплеск эмоций — коротко и просто.
Также были открыты четыре стиля выражения:
Связанное выражение (91,3%) — сложность и эмоции уравновешены.
Стратегическое преуменьшение — сильные эмоции при минимальной нарративной структуре.
Стратегическое преувеличение — очень сложный язык при невысокой эмоциональной интенсивности, создание защитной дистанции.
Коллапс — эмоции настолько переполняют автора, что связный рассказ распадается.
Проблема для ИИ
Сравнение с языковой моделью, настроенной на безопасность, показало: ее выразительный диапазон уже человеческого примерно в 1,7 раза.
Особенно плохо модель распознает стратегическое преуменьшение и экспрессивный коллапс — то есть ситуации, когда человек сообщает о страдании через сдержанность, фрагментарность или косвенность. То есть система, «слышащая» только интенсивность, пропускает тех, кто говорит тихо. Осталось понять, может ли ИИ в будущем улучшить понимание человеческих эмоций.
Оставить комментарий