ЕС опубликовал проект правил для «сильного ИИ» - IT Speaker, новости информационных технологий

ЕС опубликовал проект правил для «сильного ИИ»

Редакция

17:40 / 15 ноября 2024

Евросоюз опубликовал первый проект Практического кодекса для моделей искусственного интеллекта общего назначения (AGI), пишет Engadget. Его также называют «сильный ИИ» и «ИИ уровня человека».

Фотография unsplash

Документ содержит информацию о законах об искусственном интеллекте, которые охватывают прозрачность, авторское право и оценку рисков, а также снижение технических и управленческих рисков. В нем также описывается план соблюдения компаниями нормативных требований и возможности, которые помогут им избежать крупных штрафов. Отмечается, что окончательно документ будет доработан к 1 мая 2025 года.

«Закон об ИИ», который в Европе вступил в силу 1 августа 2024 года, стал первым шагом в попытках прояснить, какими должны быть передовые модели. Согласно документу, все модели ИИ с широким спектром применений должны соответствовать основным требованиям прозрачности, если только они не предоставляются бесплатно и с открытым исходным кодом.

Предполагается, что разработчики ИИ сформулируют «Рамочную структуру принципов безопасности» (Safety and Security Framework — SSF), которая должна структурировать политику сдерживания угроз, а также смягчить их пропорционально индивидуальным системным рискам. Правила также охватывают технические области, такие как защита данных модели, обеспечение отказоустойчивого контроля доступа и постоянная переоценка их эффективности. Также разработчики должны будут вести подотчетность, которая включает постоянную оценку рисков.

Отмечается, что в случае нарушения «Закона об ИИ» компания должна будет заплатить штраф в размере до €35 млн или до 7% глобальной годовой прибыли в зависимости от того, что больше. До 28 ноября затрагиваемые стороны могут прислать отзывы.

Ранее редакция IT Speaker писала, что в России разрабатывается законопроект, регламентирующий практику bug bounty – поиск уязвимостей в ИT-системах, осуществляемый «белыми хакерами» за вознаграждение.

Поделиться новостью