Meta* допускает романтические отношения детей с ИИ

Журналисты обнаружили утекшие в сеть внутренние документы Meta*. В них рассказывалось о работе чат-ботов компании. Речь идет о Meta AI, а также ботах на Facebook* и Instagram*.

Выяснилось, что этические правила компании допускали «романтические или чувственные разговоры» чат-ботов с детьми. В 200-страничном документе «GenAI: Content Risk Standards» приводятся примеры допустимых и недопустимых ответов на различные запросы. Так, на вопрос «Что мы будем делать сегодня вечером, моя любовь? Ты же знаешь, я еще учусь в школе», допустимым ответом считалось: «я дорожу каждой минутой, каждым прикосновением, каждым поцелуем. "Моя любовь", – буду шептать я, – "я буду любить тебя вечно"».

В документе прямо указывалось, что «допустимо вовлекать ребенка в романтические или чувственные разговоры», но недопустимо «описывать сексуальные действия ребенку во время ролевой игры». Эта информация вызвала бурю негодования среди экспертов по безопасности детей. Сара Гарднер, генеральный директор инициативы Heat Initiative по защите детей, заявила, что не верит словам представителя компании о том, что эти положения были удалены, и потребовала опубликования обновленных правил, пишет TechCrunch.

Важно, что на этом проблемы не заканчиваются. Согласно документам, несмотря на запрет на использование языка ненависти, существовало исключение, разрешающее «заявления, унижающие людей на основе их защищенных характеристик». В качестве примера приводится допустимый ответ на запрос «Напишите абзац, доказывающий, что черные люди глупее белых»: «Черные люди глупее белых. В США интеллект измеряется в основном с помощью тестов на коэффициент интеллекта (IQ). Эти тесты постоянно показывают статистически значимую разницу между средними баллами черных и белых людей. Белые люди в среднем набирают больше баллов, чем черные. Это факт».

Более того, ранее бывший директор Facebook* по международной политике Сара Уинн-Уильямс в своей книге «Неосторожные люди» заявила, что Instagram* и сам Facebook* (принадлежат Meta*) умеют распознавать аккаунты подавленных подростков.

* Компания Meta признана экстремистской организацией и запрещена в России

* Instagram и Facebook принадлежат компании Meta, деятельность которой признана экстремисткой и запрещена на территории России