Эксперты выяснили, что ИИ склонен к дискриминации

Системы искусственного интеллекта проявляют склонность к дискриминации различных меньшинств, выяснили эксперты. Это касается тех сфер, где ИИ не обладает широким доступом к различным видам данных. 

По сообщениям ряда исследователей, системы, применяющие искусственный интеллект, хуже распознают лица афроамериканцев, не всегда понимают резкие региональные акценты и даже запрещают кредиты меньшинствам. 

Как отмечает глава отдела криптовалют и web3 в платежной службе Worldpay Набиль Манджи, эффективность ИИ зависит от доступности материалов для обучения и качества алгоритмов. Однако ИИ-модели в ряде отраслей создаются в разных языках и форматах, из-за чего данные получаются фрагментарными. 

Яркий пример – банковская сфера. По словам ИИ-разработчика Фроста Ли, в последнее время появилось большое количество стартапов специально для иностранцев, поскольку банковские ИИ-системы могут отказать в кредите выпускнику Токийского университета, даже если он работает в Google. При этом выпускнику местного колледжа кредит будет быстро одобрен. Также ИИ может принимать во внимание место проживания и не выдать кредит тем, кто, например, проживает в районах с повышенной преступностью. 

Возможное решение проблемы эксперты видят в большем регулировании ИИ-отрасли, в особенности крупными международными объединениями вплоть до ООН. По их словам, алгоритмы искусственного интеллекта должны быть более прозрачными, при этом перед внедрением системы в эксплуатацию необходимо проводить экспертизу на предмет возможной предвзятости алгоритмов ИИ. 

Отметим, что ИИ-системы уже не раз становились причиной различных дискриминационных скандалов. Например, ChatGPT высказывал мысли об интеллектуальном превосходстве белых людей.