В Gmail внедрили спам-фильтр на базе ИИ

В почтовом сервисе Gmail появилось обновление спам-фильтров – система RETVec, которая работает на основе искусственного интеллекта. В Google отметили, что система классификации текстов RETVec может эффективно определять омоглифы, опечатки, невидимые и специальные символы.

Технология RETVec применяет сочетание кодировщика символов, метрического обучения и обучения на основе дополнений. То есть во время сверки текста письма спам-фильтры анализируют в том числе визуальное сходство, определяя значения слов, как это делает человек. По словам разработчиков Google, такой подход поможет в выявлении фишинговых атак, мошенничества и вредоносного контента, поскольку при их создании злоумышленники используют тексты, созданные с помощью состязательного машинного обучения. Такой подход позволяет обойти спам-фильтры, используя невидимые символы, омоглифы (визуально похожие друг на друга знаки) и различные ключевые слова. 

Тестирование технологии велось весь предыдущий год, и за это время RETVec доказал свою эффективность. 

– В частности, замена предыдущего векторизатора текста классификатора спама Gmail на RETVec позволила повысить уровень обнаружения спама по сравнению с базовым уровнем на 38 % и снизить количество ложных срабатываний на 19,4 %, – говорится в заявлении Google. – Кроме того, использование RETVec сократило использование TPU (тензорных вычислительных процессоров) модели на 83%, что сделало внедрение RETVec одним из крупнейших обновлений защиты за последние годы. 

RETVec – одно из многих нововведений Google, которые компания внедряет для повышения уровня безопасности своего почтового сервиса. Ранее ИТ-гигант анонсировал изменение политики спам-блокировки, которое вступит в силу в феврале 2024 года.