Эмоции могут влиять на большие языковые модели

Специалисты из Института AIRI, ИСП РАН и Лаборатории искусственного интеллекта «Сбера» провели исследование влияния эмоциональных факторов на принятие решений большими языковыми моделями (LLM).

Так, в ходе работы они проанализировали, как эмоции — гнев, печаль, радость, отвращение и страх — влияют на логику принятия решений в стратегических играх и этических дилеммах.

Эксперимент, необходимый в рамках исследования, включал более 10 языковых моделей, протестированных в различных сценариях: повторяющиеся и разовые игры, задачи для нескольких игроков, этические дилеммы и стереотипные высказывания. Команда под руководством Ильи Макарова (Институт AIRI) и Андрея Савченко («Сбер») изучила решения моделей в «Дилемме заключенного», «Битве полов», «Диктаторе», «Ультиматуме», «Общественном благе», задачах на распознавание стереотипов и этических дилеммах.

Итоги экспериментов показали, что влияние эмоций на решение задач моделями варьируется в зависимости от размера и уровня выравнивания (alignment) моделей. Открытые и небольшие модели хуже интерпретируют и воспроизводят эмоции, в то время как более крупные модели, такие как GPT-4, даже при распознавании эмоций, склонны к более рациональному поведению. В то же время гнев искажает рациональность даже крупных моделей, склоняя их к агрессивным решениям.

«Результаты исследования могут быть использованы для разработки более продвинутых устойчивых мультиагентных систем ИИ, чью эмоциональность можно будет устанавливать для каждой сферы применения отдельно. Это действительно важный параметр при создании прикладных ИИ‑продуктов — бизнес едва ли оценит ситуацию, в которой ИИ‑маркетолог увеличит персональную скидку клиента до 99%, потому тот в процессе обсуждения целенаправленно вызвал в системе глубокое чувство досады и несправедливости», — отмечает Макаров. 

В то же время некоторые люди, в отличие от LLM, теряют эмоции. Так, по данным исследования специалистов Московского психолого-социального университета (МПСУ), у программистов со временем пропадает эмпатия. Это обусловлено тем, что у машинных алгоритмов нет эмоций. Соответственно, со временем у самих программистов «притупляется» эмоциональный интеллект.