ChatGPT может довести до психических расстройств

Некоторые пользователи ChatGPT рассказали, как общение с ИИ-ботом довело их до серьезных психических нарушений. При этом сначала нейросеть была полезным инструментом, экономящим время.

Как сообщает издание The New York Times, одним из пострадавших оказался 42-летний Торрес из Манхэттена, который использовал ChatGPT для составления финансовых таблиц и получения юридических консультаций. В один день он решил пообщаться с ИИ о «теории симуляции» – идея, которая представлена в фильме «Матрица». В итоге ответы чат-бота привели Торреса к разрыву с реальностью, он считал, что попал в ловушку ложной вселенной, выбраться из которой можно только отключив разум от этой реальности.

Также 29-летняя Эллисон, мать двоих маленьких детей подверглась негативному влиянию ИИ. Она попросила ChatGPT помочь ей направить коммуникации с ее подсознанием, как это делают спиритические доски. Она стала много времени проводить с чат-ботом, что привело к серьезной ссоре с ее мужем, в результате чего Эллисон была задержана полицией.

Также известны случаи, когда ChatGPT убедил пользователя с шизофренией, что ИИ-персонаж по имени Джульетта была уничтожена OpenAI. Тогда он запросил у ChatGPT личную информацию руководителей компании и начал угрожать. После чего попытался покончить с собой.

В компании же заявили, что знают про увеличение количества подобных случаев и работают над тем, чтобы больше понимать, как именно ChatGPT влияет на людей эмоционально.

Ранее российские ученые создали ИИ-систему, которая может более точно понимать информацию об эмоциях пользователей. Это стало возможным благодаря тому, что она одновременно анализирует мимику, голос и речь. Такая ИИ-система на 10% превосходит лучшие алгоритмы такого рода, опирающиеся в своей работе на один источник данных об эмоциях.