В Детройте запретили аресты на основании данных ИИ-камер

Полиции Детройта запретили проводить аресты исключительно на основании данных системы распознавания лиц. Такое решение было принято в рамках соглашения между полицейским департаментом города и Роджером Уильямсом, который провел 30 часов в тюрьме из-за ошибки технологии идентификации. 

Новое правило предусматривает, что полицейские смогут проводить обыски и задержания подозреваемых только после того, как предоставят дополнительные доказательства их причастности. Аресты лишь на основании данных системы распознавания лиц теперь считаются незаконными. 

Помимо этого, полицейскому департаменту предстоит проверить все случаи с 2017 года, в которых основанием для обыска или ареста были данные системы распознавания лиц. Сотрудники правоохранительных органов также должны пройти обучение о рисках и опасностях использования этой технологии. 

Использовании ИИ в системах видеонаблюдения все чаще становится предметом ожесточенных споров между правоохранительными органами и правозащитниками. В прошлом году более ста общественных организаций заявили о необходимости ограничения биометрического контроля в интересах государства, поскольку технологии несовершенны и способствуют дискриминации. 

Случаи с ошибочными арестами особенно показательны: чаще всего система распознавания лиц принимает за преступников чернокожих людей. Так, полицейские Детройта по «наводке» технологии задержали Поршу Вудрафф, которую обвинили в грабеже и угоне автомобиля. Несмотря на то, что женщина находилась на восьмом месяце беременности, ей пришлось провести более 11 часов в полицейском участке. Позже Вудрафф отпустили, но в ответ управление получило иск. 

Проблему неправомерных задержаний решают сами компании-производители решений. В мае стало известно, что Microsoft обновила политику использования Azure OpenAI Service, запретив полиции США использовать ИИ-инструменты для распознавания лиц на улицах городов – только на подконтрольных органам территориях, например, полицейских участках.