OpenAI наняла штатного психиатра

Представители OpenAI заявили о том, что компания наняла штатного клинического психиатра с опытом работы в судебной психиатрии. Он нужен для изучения влияния собственных ИИ-продуктов OpenAI на психическое здоровье людей.

Компания также общается по данной теме с другими экспертами в области психического здоровья, и уже провела исследование совместно с Массачусетским технологическим институтом. Оно выявило признаки неадекватного использования ИИ некоторыми пользователями.

Отметим, что специалисты по психическому здоровью уже выражали опасения в отношении ИИ. Так, один психиатр, который выдавал себя за подростка, обнаружил при использовании чат-ботов, что некоторые из них подталкивают к самоубийству или советуют «избавиться» от родителей.

Кроме того, специалисты отмечали склонность ИИ к подхалимству. Такие чат-боты, как ChatGPT, часто говорят пользователям именно то, что те хотят услышать.

Ранее в журнале Trends in Cognitive Sciences недавно была опубликована статья, в которой психологи анализируют этические вопросы, возникающие в связи с романтическими отношениями между людьми и ИИ-ассистентами. Особое внимание уделено возможному негативному воздействию этих отношений на социальные взаимодействия и опасности получения вводящих в заблуждение рекомендаций от искусственного интеллекта.