17:50 / 17 ноября 2026
Эксперты выяснили, что ИИ склонен к дискриминации - IT Speaker, новости информационных технологий
Системы искусственного интеллекта проявляют склонность к дискриминации различных меньшинств, выяснили эксперты. Это касается тех сфер, где ИИ не обладает широким доступом к различным видам данных.
По сообщениям ряда исследователей, системы, применяющие искусственный интеллект, хуже распознают лица афроамериканцев, не всегда понимают резкие региональные акценты и даже запрещают кредиты меньшинствам.
Как отмечает глава отдела криптовалют и web3 в платежной службе Worldpay Набиль Манджи, эффективность ИИ зависит от доступности материалов для обучения и качества алгоритмов. Однако ИИ-модели в ряде отраслей создаются в разных языках и форматах, из-за чего данные получаются фрагментарными.
Яркий пример – банковская сфера. По словам ИИ-разработчика Фроста Ли, в последнее время появилось большое количество стартапов специально для иностранцев, поскольку банковские ИИ-системы могут отказать в кредите выпускнику Токийского университета, даже если он работает в Google. При этом выпускнику местного колледжа кредит будет быстро одобрен. Также ИИ может принимать во внимание место проживания и не выдать кредит тем, кто, например, проживает в районах с повышенной преступностью.
Возможное решение проблемы эксперты видят в большем регулировании ИИ-отрасли, в особенности крупными международными объединениями вплоть до ООН. По их словам, алгоритмы искусственного интеллекта должны быть более прозрачными, при этом перед внедрением системы в эксплуатацию необходимо проводить экспертизу на предмет возможной предвзятости алгоритмов ИИ.
Отметим, что ИИ-системы уже не раз становились причиной различных дискриминационных скандалов. Например, ChatGPT высказывал мысли об интеллектуальном превосходстве белых людей.
Поделиться новостью
17:50 / 17 ноября 2026
17:10 / 17 ноября 2026
16:30 / 17 ноября 2026
15:50 / 17 ноября 2026
«Сбер» представил портативную умную колонку
16:30 / 17 ноября 2026
Cloud.ru займется национальной сертификацией ИТ-специалистов в облаках
15:50 / 17 ноября 2026
Соцсети и мессенджеры
Цифровизация
15:10 / 17 ноября 2026
VK Tech запустил подключение ИИ-агентов в проектах VK WorkSpace
13:50 / 17 ноября 2026