DeepSeek тайно обучалcя на ответах Claude

Команда Anthropic выяснила, что три ИИ-лаборатории из Китая, такие как DeepSeek, Moonshot и MiniMax, собирали ответы Claude (принадлежит Antropic) для обучения на них своих ИИ. В общей сложности они сгенерировали больше 16 млн запросов через примерно 24 тыс. поддельных аккаунтов.

Данная методика называется дистилляция: используется сильная нейросеть, ей скармливаются тысячи промптов. После разработчики собирают полученные ответы и используют их как обучающие данные для своей модели. Важно, что сам по себе метод легальный. Однако в приведенном случае компании нарушали условия использования и обходили региональные ограничения через прокси-сервисы.

Более того, согласно расследованию, DeepSeek сгенерировала 150 тыс. запросов, причем среди них были задачи, где Claude просили представить и расписать собственную цепочку рассуждений по шагам. Фактически так генерируются готовые данные для обучения reasoning-модели (англ. рассуждающей модели – прим. IT Speaker). Еще DeepSeek использовал Claude для создания «безопасных» ответов на политически чувствительные вопросы – видимо, чтобы научить свою модель аккуратно обходить цензурные темы.

Ранее руководство Anthropic заявило о двухлетнем партнерстве с Python Software Foundation. В рамках сделки компания инвестирует $1.5 млн в развитие Python-экосистемы. Ключевой фокус – безопасность цепочки поставок и защита PyPI.