Сотрудники OpenAI заявили, что компания скрывает ИИ-риски

Группа сотрудников OpenAI на условиях анонимности обратились в Комиссию по ценным бумагам и биржам США, заявив, что компания запрещает работникам предупреждать федеральные власти об опасностях разрабатываемых ИИ-технологий.

Как пишет The Washington Post, ряд сотрудников OpenAI пожаловались на жесткие трудовые договоры, в которых компания фактически запрещает работникам обращаться к властям, даже если какая-либо ИИ-разработка потенциально опасна для человечества. Адвокат информаторов Стивен Кон заявил, что, с одной стороны, сотрудники не могут нарушать федеральное законодательство, с другой, разглашение подробностей разработки ведет к уголовному преследованию таких сотрудников. 

В OpenAI уже отреагировали на информацию, пресс-секретарь компании Ханна Вон отметила, что политика OpenAI защищает подобных информаторов, кроме того, ИИ-разработчик приветствует обсуждения технологий. Поэтому компания внесла в договоры ряд изменений, в которых исключаются пункты об увольнении в случае разглашения внутренних данных. 

OpenAI неоднократно обвиняли в том, что в погоне за прибылью компания отодвинула безопасность разработки искусственного интеллекта на второй план. Как ранее сообщали СМИ, скандал с увольнением гендиректора OpenAI Сэма Альтмана в 2023 году был связан с разногласиями совета директоров: части управленцев не нравилось стремление ряда менеджеров и Альтмана к прибыли в ущерб безопасности. Опасную политику OpenAI отметил и генеральный директор SpaceX Илон Маск, который подал на компанию в суд. Согласно его иску, OpenAI нарушила договоренности об открытом исходном коде для ИИ, чем ставит человечество под угрозу.