OpenAI обвиняют в нанесении вреда детям

Штат Флорила (США) подал в суд на компанию OpenAI и ее генерального директора Сэма Альтмана, обвинив в нанесении вреда несовершеннолетним. Власти считают, что чат-бот ChatGPT небезопасен, а создатели не рассказывают о реальных рисках, которые с ним связаны.

Штат стал первым в США, подавшим в суд на компанию, обвинив ее в недобросовестности и халатности. Кроме этого, сообщается, что ChatGPT помогал массовым убийцам, поощрял самоубийства и приводил к потере «навыков критического мышления» у пользователей. Также чат-бот не имеет эффективный родительский контроль, а в бесплатной версии отсутствует механизм проверки возраста.

«Сэм Альтман и ChatGPT выбрали гонку ИИ, а не безопасность наших детей. Они предпочли прибыль общественной безопасности, и мы не потерпим этого здесь, во Флориде», – цитирует генерального прокурора Флориды Джеймса Утмайера издание CNN.

В OpenAI признали, что несовершеннолетние «нуждаются в серьезной защите», поэтому компания внедрила уже некоторые меры, например, прогнозирование возраста и уведомление родителей.

Ранее OpenAI создала продукт для разработки решений в области биологической защиты и готовности к пандемиям. Инициатива OpenAI Rosalind Biodefense Program предложит модель GPT-Rosalind для исследований в сфере биологических наук «доверенным разработчикам», которые уже работают над биозащитными проектами на практике.