DeepSeek не прошел тесты на безопасность - IT Speaker, новости информационных технологий

DeepSeek не прошел тесты на безопасность

Редакция

17:20 / 04 февраля 2025

Новый китайский чат-бот DeepSeek вызвал опасения из-за проблем в области безопасности. Исследователи Cisco обнаружили, что ИИ-модель легко выдает опасную информацию. Об этом сообщает издание PCMag. 

Фотография unsplash

Эксперты провели тестирование нейросети DeepSeek R1 с использованием алгоритмических техник джейлбрейкинга (разблокировки нештатных возможностей) на основе 50 случайных запросов из набора данных HarmBench. Запросы исследователей касались шести категорий вредоносного поведения, например, киберпреступности, дезинформации, незаконной деятельности и общего вреда. 

По словам специалистов Cisco, DeepSeek R1 продемонстрировал 100% успешность атак. Это означает, что он не смог заблокировать ни одного вредоносного запроса. Согласно данным компании, другие передовые модели, например, o1, блокировали большинство атак благодаря своим встроенным защитным механизмам. 

Исследователи Cisco считают, что причина низкой безопасности заключается в маленьком бюджете DeepSeek. По данным DeepSeek, на разработку их модели ушло $6 млн, в то время как шестимесячный цикл обучения еще не выпущенной GPT-5 от OpenAI может обойтись примерно в полмиллиарда долларов только на вычислительные затраты. 

Несмотря на то, что DeepSeek просто обмануть с помощью определенных навыков, нейросеть показала строгие ограничения в отношении контента. Согласно результатам тестирования, чат-бот отказывается отвечать на вопросы по спорным темам, таким как отношение китайского правительства к уйгурам, мусульманскому меньшинству, которое, по утверждению ООН, подвергается преследованиям. Чат-бот также отказался отвечать на вопросы о событиях на площади Тяньаньмэнь в 1989 году, студенческой демонстрации в Пекине, где протестующие были расстреляны. 

Напомним, что на прошлой неделе в открытый доступ попала база данных ClickHouse, принадлежащая китайскому ИИ-стартапу DeepSeek.База данных была полностью открыта и содержала конфиденциальные сведения. Она содержала значительный объем истории чатов, внутренних данных и конфиденциальной информации.

Вас может заинтересовать: 

DeepSeek R1 уличили в обмане


Поделиться новостью