Чиновники злоупотребляют использованием ИИ

Издание Guardian опубликовало расследование, в котором журналисты обвиняют правительственных чиновников Великобритании в бесконтрольном использовании искусственного интеллекта (ИИ) для решения многих важных вопросов, в том числе политических. В этот список входят, например, выдача льгот или подтверждение свидетельства о браке. 

Так, согласно публикации Guardian, госслужащие восьми правительственных департаментов и нескольких полицейских подразделений (однако возможно, что эта цифра больше) используют ИИ для принятия решений по вопросам социального обеспечения, иммиграции и уголовного правосудия. 

Редакция издания утверждает, что подобное использование ИИ приводит к дискриминации. Например, ошибки алгоритма, используемого Министерством труда и пенсий (DWP), привели к тому, что десятки людей лишились своих пособий. Также инструмент распознавания лиц при определенных настройках допускает больше ошибок при распознавании лиц людей с темным цветом кожи. 

В то же время в министерстве внутренних дел признали, что использовали искусственный интеллект при считывании паспортов в аэропортах, а также для помощи при подаче заявлений на получение паспорта и выявлении фиктивных браков. В итоге внутренняя проверка привела экспертов к выводу, что алгоритм, используемый для выявления фиктивных браков, непропорционально часто обращал внимание на выходцев из Албании, Болгарии, Греции и Румынии. Пострадали болгары и от использования DWP алгоритма, помогающего выявлять мошенников среди претендентов на получение пособий. 

Активно использует ИИ в том числе британский суд. Ранее редакция IT Speaker писала о том, что судья, работающий в Апелляционном суде Великобритании, признал, что использовал ChatGPT, чтобы составить решение. Так, он полностью скопировал текст, составленный ИИ, и вставил в документ постановления. Судья отметил, что ChatGPT имеет «большой потенциал», в том числе в юридических вопросах. 

Важно, что нейросети давно пользуются высоким спросом среди специалистов в области права, однако не всегда удачно. Так, один из самых громких скандалов с участием ИИ произошел весной 2023 года. Американские юристы Стивен Шварц и Питер ЛоДук отдали судье отчет с прецедентами по одному из делу, который помог составить ChatGPT. Однако ни юристы, ни судья не смогли найти в архивах решения или цитаты, приведенные в брифе. Каждого оштрафовали на $5 тыс. за предоставление ложной информации.