ИИ чат-боты имеют политические предубеждения

Системы искусственного интеллекта (ИИ) на основе больших языковых моделей (LLM), будучи доступным способом получения ответов на вопросы, давно обзавелись расовыми и гендерными предубеждениями.

Новое исследование показало, что теперь к этому списку можно добавить и политическую предвзятость, что еще больше демонстрирует потенциал новой технологии невольно влиять на политические взгляды общества.

Научная работа, проведенная ученым Дэвидом Розадо из Политехнического института Отаго в Новой Зеландии, поднимает вопросы о том, как на нас могут влиять ИИ чат-боты, на которых мы полагаемся в получении различной информации.

Розадо проверил 11 стандартных политических опросников, таких как «политический компас», на 24 различных LLM, включая ChatGPT от OpenAI и чат-бот Gemini, разработанного Google, и обнаружил, что средняя политическая позиция всех моделей была далека от нейтральной.

Розадо отмечает, что большинство существующих LLM демонстрируют левоцентристские политические предпочтения, когда их оценивают с помощью различных тестов на политические взгляды.

Средний левый уклон не был сильным, но он был значительным. Дальнейшие тесты на пользовательских ботах, где пользователи могут точно настроить обучающие данные LLM, показали, что на данные ИИ можно повлиять, чтобы они выражали политические пристрастия, используя левоцентристские или правоцентристские тексты.

Каким образом эти предубеждения попадают в системы, пока неясно, хотя нет никаких предположений, что они намеренно закладываются разработчиками LLM. Эти модели обучаются на огромном количестве онлайн-текстов, но дисбаланс левого и правого материала может оказать влияние на конечную позицию. 

В то время, пока ученые беспокоятся о влиянии ИИ на политические взгляды людей, китайские власти разработали и выпустили чат-бот, который обучали на философском трактате «Идеи Си Цзиньпина о социализме с китайской спецификой новой эпохи».

Си Цзиньпин — китайский государственный, политический и партийный деятель, действующий генеральный секретарь ЦК Коммунистической партии Китая с 2012 года.