Google применит ИИ для выявления несовершеннолетних

Компания Google в тестовом режиме запустила функцию, которая при помощи машинного обучения будет оценивать возраст пользователей. На данный момент она работает только в США.

Модель будет анализировать действия пользователя, например, посещаемые сайты или типы просматриваемых роликов, и пытаться предсказать, есть ли ему 18 лет. В случае, если он окажется младше, то ИИ применит соответствующие настройки фильтра по возрасту к его учетной записи. Пользователь получит уведомление об изменениях.

Отмечается, если модель ошибется, то изменить информацию о возрасте можно будет при помощи фотографии пользователя с кредитной картой или удостоверением личности.

«Мы продолжим изучать дополнительные возможности для предоставления пользователям большей прозрачности в отношении оценки возраста на уровне аккаунта», — отметил представитель Google Мэтт Брайант.

Планируется, что в дальнейшем данная функция распространится на пользователей и других стран.

Такой шаг, скорее всего, был принят в качестве ответа на меры по безопасности детей в интернете. Последнее время эта тема активно рассматривается различными крупными компаниями. Например, ведущие технологические компании OpenAI и Google совместно с площадками Roblox и Discord объявили о запуске некоммерческой организации под названием ROOST (Robust Open Online Safety Tools), которая будет предоставлять другим компаниям ИИ-инструменты с открытым исходным кодом для защиты детей в интернете.

Данные технологии будут направлены на выявление в интернете материалов, которые содержат информацию о сексуальном насилии над детьми, а также бороться с таким контентом. Такое решение было принято из-за «острой необходимости ускорения инноваций в области безопасности детей в интернете» на фоне растущего доступа к генеративному искусственному интеллекту.