Правозащитники выступили против ИИ

Более ста общественных организаций и академических сообществ из разных стран Европы призвали законодателей ЕС установить ограничения на «неконтролируемые формы дискриминационного и массового наблюдения». Заявления были сделаны в свете использования различных форм биометрического наблюдения, профилактической полицейской деятельности и «нежелательного» использования искусственного интеллекта (ИИ) в миграционном контроле. 

Общественники подчеркивают, что «все чаще в Европе и по всему миру системы ИИ разрабатываются и применяются для вредных и дискриминационных форм государственного наблюдения». Основные опасения связаны с использованием биометрии для идентификации, распознавания и категоризации, а также с системами прогнозирования в принятии решений и распределении ресурсов. 

Правозащитники также утверждают, что ИИ в правоохранительной деятельности зачастую заранее нацелен на маргинализированные общества, подрывает юридические и процедурные права и позволяет проводить массовую слежку. 

Законодательный акт ЕС об ИИ (AI Act), первый всеобъемлющий законодательный акт блока по регулированию ИИ, был одобрен Европарламентом в июне этого года. Акт запрещает системы, представляющие «неприемлемый уровень риска» для безопасности и конфиденциальности людей. К ним относятся инструменты прогнозирующей полицейской деятельности, используемые в нескольких штатах США, и практики социального скоринга по образцу Китая. 

Однако AI Act еще предстоит одобрить государствам-членам ЕС и их лидерам в Евросовете. Одним из спорных пунктов является биометрическое наблюдение. В то время как законодатели ЕС выступают за полный запрет публичного биометрического наблюдения, включая распознавание лиц, некоторые государства-члены выступают за исключения, например, в вопросе безопасности, обороны и военных действий. 

Об этой проблеме редакция IT Speaker уже писала. Полицейские Детройта (Мичиган, США) арестовали беременную 32-летнюю Поршу Вудрафф после того, как в ИИ-системе распознавания лицо чернокожей женщины ошибочно совпало с лицом настоящей преступницы.