ИИ обучался на фото сексуального насилия над детьми

Согласно исследованию ученых из Стэнфорда (США), популярный набор данных LAION-5B, используемый для обучения моделей генеративного искусственного интеллекта (ИИ), содержит сотни ссылок на материалы сексуального насилия над детьми (Child Sexual Abuse Material — CSAM). Так, база включала по меньшей мере 1679 нелегальных изображений, взятых из постов в социальных сетях и популярных сайтов для взрослых. 

Отдельно исследователи из Стэнфорда отметили, что наличие CSAM в наборе данных для обучения ИИ не обязательно негативно отразится на конечной работе ИИ. Тем не менее, всегда есть вероятность, что модель использует что-то из незаконных материалов при генерации изображений. 

LAION же сообщила, что придерживается политики «нулевой терпимости» к вредоносному контенту и временно удалит наборы данных из Сети. Согласно сайту платформы, набор данных не является непосредственно репозиторием изображений. Он представляет собой результат индексирования ресурсов интернета и содержит ссылки на изображения и замещающий текст. 

Stability AI (платформа, использовавшая изучаемую базу данных) утверждает, что при обучении своих моделей на наборе данных LAION-5B, она использовала лишь часть материалов, которые отбирались в том числе и с учетом безопасности. 

Эксперты полагают, что будет сложно полностью удалить проблемный контент из моделей ИИ, обученных на нем. Специалисты предлагают в данной ситуации подождать, чтобы модели, обученные на LAION-5B, такие как Stable Diffusion 1.5, «устарели, а их распространение прекратилось там, где это возможно». 

Ранее 40-летний мужчина был приговорен к 2,5 годам тюрьмы за создание сексуальных изображений детей с помощью специальной программы на основе искусственного интеллекта. Полиция изъяла у подсудимого более трехсот изображений сексуального характера, на которых изображены дети.