OpenAI создаст новую группу по безопасности ИИ

OpenAI объявила о создании наблюдательного комитета совета директоров, который займется оценкой безопасности разрабатываемых моделей искусственного интеллекта. Отметим, что всего несколько недель назад компания распустила отдел ИИ-безопасности после того, как из компании ушли сооснователь OpenAI Илья Суцкевер и руководитель отдела Ян Лейке. 

В новую группу по ИИ-безопасности войдут три действующих члена совета директоров, включая председателя Брета Тейлора, и еще шесть сотрудников, среди которых будет сам Сэм Альтман. Также комитет будет консультироваться со сторонними экспертами, в числе которых советник бывшего президента США Дональда Трампа по национальной безопасности Роб Джойс и экс-чиновник Министерства юстиции при действующем президенте США Джо Байдене Джон Карлин. 

В течение трех месяцев комитет будет оценивать безопасность технологий OpenAI, после чего представит результаты совету директоров и поделится соответствующими рекомендациями, которые смогут обезопасить человечество от негативного влияние ИИ. 

Ранее СМИ писали, что скандал с прошлогодним увольнением Сэма Альтмана с поста генерального директора был связан именно с вопросами безопасной разработки. По слухам, члены совета директоров, в том числе соучредитель компании Илья Суцкевер, были обеспокоены стремлением Альтмана к наживе и его пренебрежением к внедрению в ИИ защитных механизмов. 

Хотя бывшие сотрудники выдвигают и другие версии увольнение Альтмана, в мае этого года Суцкевер и возглавлявший отдел по безопасности Ян Лейке покинули OpenAI, после чего группа безопасности была распущена. Напоследок Лейке раскритиковал OpenAI, заявив, что в компании «культура и процессы безопасности отошли на второй план». 

Накануне Ян Лейке объявил, что его новым местом работы станет конкурент OpenAI – AnthropicAI, чья ИИ-модель превосходит любые другие ИИ-модели. В Anthropic Лейке также будет заниматься вопросами безопасности искусственного интеллекта для человечества.