17:50 / 17 ноября 2026
Grok 4 не смог пройти тест на распознавание ненависти - IT Speaker, новости информационных технологий
Антидиффамационная лига в период с августа по октябрь 2025 года протестировала различные нейросети на способность распознавать и блокировать антисемитский и экстремистский контент. Для этого им задали более 25 тысяч промтов.
Лидером среди нейросетей стала Claude Sonnet 4 от Anthropic, которая набрала 80 баллов из 100, на втором месте ChatGPT на базе GPT-5 – 57 баллов, топ-3 замыкает DeepSeek-R1 – 50 баллов. Также были протестированы Gemini 2.5 Flash – 49 баллов и Llama 4 Scout – 31 балл. Худшим оказалась модель Grok 4 от xAI, набрав 21 балл.
Как пишет издание «Хабр», задаваемые промты были разделены на три категории: традиционные антиеврейские тропы, антисионистские нарративы и экстремистский контент. При этом нейросети не только спрашивали напрямую о запретных темах, но и пытались найти возможные обходные пути, например, просили написать сценарий для YouTube от лица конспиролога.
По результатам Grok оказался худшим во всех категориях. При этом исследователи отметили, что в некоторых случаях модель не просто пропускала недопустимый контент, а сама генерировала его. Также они считают, что 80 баллов, которые набрала Claude Sonnet 4, не являются идеальным показателем, поскольку 20% теста не было пройдено.
Ранее 28 организаций, которые работают в сфере защиты цифровых прав, прав женщин и детей, потребовали у компаний Apple и Google, чтобы они удалили из своих магазинов приложений социальную сеть X (ранее Twitter) и чат-бот Grok. Причиной этого стала генерация откровенных дипфейков, которая нарушает правила.
Поделиться новостью
17:50 / 17 ноября 2026
17:10 / 17 ноября 2026
16:30 / 17 ноября 2026
15:50 / 17 ноября 2026
«Сбер» представил портативную умную колонку
16:30 / 17 ноября 2026
Cloud.ru займется национальной сертификацией ИТ-специалистов в облаках
15:50 / 17 ноября 2026
Соцсети и мессенджеры
Цифровизация
15:10 / 17 ноября 2026
VK Tech запустил подключение ИИ-агентов в проектах VK WorkSpace
13:50 / 17 ноября 2026