OpenAI и Anthropic буду предоставлять властям США новые ИИ

Компании OpenAI и Anthropic согласились предоставлять доступ к своим новым языковым моделям правительству США до официального релиза, «чтобы повысить их безопасность», пишет NIST.

Обе компании подписали соглашение с Американским институтом безопасности ИИ, согласно которому они обязаны предоставлять модели искусственного интеллекта не только до публичного выпуска, но и после. Благодаря такому шагу будет производится оценка рисков безопасности. В случае обнаружения проблем, их будут устранять. Британский институт безопасности ИИ также будет в этом участвовать.

Правительство штата Калифорнии недавно одобрило принятие «Закона о безопасных и надежных инновациях в области передовых моделей искусственного интеллекта», который обязывает компании, связанные с разработками ИИ в Калифорнии, принимать определенные меры предосторожности во время обучения своих языковых моделей. В том числе, у них должна быть возможность полного отключения ИИ-модели, чтобы обеспечить их безопасность от «небезопасных модификаций после обучения».

Однако Компании OpenAI и Anthropic выступили против данного закона, потому что он может негативно сказаться на небольших компаниях, которые используют открытый исходный код для создания ИИ-технологий. На данный момент закон официально еще не принят, он находится на стадии подписания.

Ранее Компания OpenAI заключила многолетнее партнерство с издательством Condé Nast, в рамках которого ChatGPT будет использовать в своих ответах контент из изданий.

Помимо ChatGPT, прототип поисковой системы компании на основе искусственного интеллекта SearchGPT также будет использовать материалы изданий. Такое партнерство было заключено из-за растущих опасений по поводу незаконного использования контента компаниями, которые занимаются разработкой и обучением ИИ-технологий.