OpenAI и Google создали группу для безопасности детей

Ведущие технологические компании OpenAI и Google совместно с площадками Roblox и Discord запускают некоммерческую организацию под названием ROOST (Robust Open Online Safety Tools), которая будет предоставлять другим компаниям ИИ-инструменты с открытым исходным кодом для защиты детей в интернете.

Данные технологии будут направлены на выявление в интернете материалов, которые содержат информацию о сексуальном насилии над детьми, а также бороться с таким контентом. Такое решение было принято из-за «острой необходимости ускорения инноваций в области безопасности детей в интернете» на фоне растущего доступа к генеративному искусственному интеллекту.

«Начиная с платформы, ориентированной на защиту детей, совместный подход ROOST с открытым исходным кодом будет способствовать инновациям и сделает основную инфраструктуру более прозрачной, доступной и инклюзивной с целью создания более безопасного интернета для всех», – сказал бывший генеральный директор Google Эрик Шмидт.

Вопрос безопасности детей в интернете особенно актуален в последнее время. Участники группы ROOST сами сталкивались с критикой в свой адрес на этой почве. Например, Комиссия по азартным играм Великобритании (UK Gambling Commission, UKGC) заблокировала восемь сайтов, которые незаконно использовали площадку Roblox для вовлечения несовершеннолетних в азартные игры.