Apple уличили в расовой предвзятости

ИИ-генератор изображений от Apple предвзят в расовых вопросах. Например, когда его попросили обработать фотографию в стиле «баскетбол», то нейросеть сделала человека темнокожим. Об этом стало известно из исследования специалист по машинному обучению Йохема Гитемы. 

В Image Playground можно выбрать фотографию человека и применить к ней дополнительные параметры, например, выбрать локацию, одежду или аксессуары. Если среди предложенных по умолчанию вариантов нет необходимого, то можно описать нужное изображение словами. 

При этом в системе есть ограничения. Так, ИИ не сможет создать жестокие картинки или изображения знаменитостей. Также в Playground можно создавать изображения только в мультипликационном стиле или в виде рисунка. Это еще один уровень безопасности от Apple, который не дает создавать фотореалистичные картинки. 

Исследователь Йохем Гитема решил провести исследование и протестировал ИИ-генератор изображений. Он загрузил в приложение свою фотографию и сгенерировал мультиприкационное изображение в разных стилях. 

В ходе эксперимента Гитема попросил обработать свое изображение с разными запросами. Так, исследователь заметил, что нейросеть предвзято относится к запросам, связывая некоторые темы с расой человека. Например, когда он попросил нейросеть обработать фотографию с запросами «катание на лыжах», «инвестиционный банкир», «классическая музыка», «балет», то человек на картинках был с белой кожей, а с запросом «баскетбол», «рэп», «брейк-данс», «уличная одежда» – темнокожим. 

Исследователь отмечает, что он получил такие результаты только с одной своей фотографией. По его мнению, такая расовая предвзятость в этом эксперименте может создаваться из-за того, что ИИ некорректно распознал черты лица в плохом освещении. При этом Гитема считает, что можно подобрать запрос так, чтобы предвзятость демонстрировалась с любой фотографией. 

Ранее стало известно о том, что помимо расовых и гендерных предубеждений, ИИ чат-боты обзавелись и политическими. Ученый Дэвид Розадо из Политехнического института Отаго в Новой Зеландии провел исследование, в котором выяснил, как на нас могут влиять ИИ чат-боты, на которых мы полагаемся в получении различной информации.