Полиции запретили использовать ИИ для распознавания лиц

Компания Microsoft обновила политику использования платформы Azure OpenAI Service, запретив полиции США использовать инструменты на базе искусственного интеллекта для распознавания лиц. 

– Интеграции с Azure OpenAI Service не должны: без действительного согласия человека использоваться для постоянного наблюдения или идентификации в режиме реального времени […]; или использоваться для целей распознавания лиц полицейским управлением США или для него, – говорится в Кодексе поведения Azure OpenAI Service. 

Компания напрямую запрещает использование ИИ-технологий для идентификации граждан в «дикой» среде, в том числе с различных полицейских камер. При этом американские правоохранители могут применять ИИ-идентификацию на подконтрольных территориях, например, в полицейских участках. 

Обновленная политика появилась спустя неделю после релиз компании Axon, которая представила систему расшифровки записи звука на базе GPT-4 с нательных камер. Правозащитные организации отметили, что подобные технологии не могут использоваться в «боевом» режиме, поскольку склонны к ошибкам и расовым предубеждениям. Так, в январе 2024 года полиция ошибочно арестовала 61-летнего американца Харви Мерфи-младшего, в котором ИИ-система опознала преступника. Позже оказалось, что у Мерфи есть алиби. 

Тем не менее правоохранители различных стран активно применяют искусственный интеллект для обеспечения безопасности граждан. Как именно – читайте в материале IT Speaker.