Европарламент готов одобрить закон о применении ИИ

В проекте документа прописан запрет на использование технологии распознавания лиц в общественных местах, применение полицией предиктивной аналитики и меры по регулированию систем генеративного ИИ, сообщает «Коммерсантъ».

Голосование всего Европарламента планируется провести в июне, а ориентировочными сроками принятия нового закона чиновники называют конец нынешнего или начало следующего года. 

На основании нового закона все системы, построенные на ИИ, будут подразделяться по уровню риска — от низкого до неприемлемого. «Мы находимся на пороге создания по-настоящему значимого для цифровой среды законодательства, не только для Европы, но и для всего мира», — прокомментировал один из авторов законопроекта, депутат Брандо Бенифеи. 

Рассматриваемый европарламентариями закон действительно станет первым в мире правовым актом, разносторонне и всеобъемлюще регулирующим использование ИИ. Именно на него будут ориентироваться и ссылаться власти в разных странах мира, а также крупнейшие мировые корпорации. 

В законе содержится внушительное количество ограничений в использовании технологий ИИ. Например, предлагается запретить применение целого ряда инструментов и систем, которые позволяют с помощью технологий искусственного интеллекта следить за гражданами, использовать системы распознавания лиц и другие технологии «удаленной биометрической идентификации» в режиме реального времени в общественных местах. 

Кроме того, закон запретит полиции использовать системы предиктивной аналитики: подобные системы анализируют огромные массивы данных, чтобы составить профиль потенциального правонарушителя и сделать прогноз о вероятности совершения преступления. Законодатели уверены, что подобное прогнозирование в целом недостаточно прозрачно, тем более для использования правоохранительными структурами. 

Также в рассматриваемом Европарламентом документе содержатся нормы регулирования различных «высокорисковых систем, основанных на ИИ»: это, например, беспилотные авто, медицинские приборы с применением ИИ и т.п. Чиновники особенно отмечают, что сбой в работе подобных систем может привести к различным серьезным последствиям (в том числе смерти людей). 

Работу генеративного ИИ и основанных на нем чат-ботов (например, известного ChatGPT) закон не запрещает, но жестко регламентирует. Так, чиновники намерены обязать создателей подобных систем раскрывать информацию о том, какие книги, музыкальные произведения и другие подобные материалы, защищенные авторским правом, были использованы при обучении ИИ. Это, по их мнению, должно помочь в борьбе с плагиатом и нарушением авторских прав. 

Закон устанавливает не только нормы использования ИИ и технологий, на нем основанных, но и вводит ответственность за их нарушение: в качестве взыскания может быть выписан штраф в размере до €30 млн, или 6% годовой глобальной выручки компании. Первые два года после вступления закона в силу он будет действовать в тестовом режиме. Контролировать соблюдение нового закона будет специально созданное Управление ЕС по ИИ совместно с регуляторами отдельных стран Европейского союза.