«Газинформсервис» запатентовал метод борьбы с деградацией ИИ-защиты - IT Speaker, новости информационных технологий

«Газинформсервис» запатентовал метод борьбы с деградацией ИИ-защиты

Редакция

11:10 / 29 октября 2026

«Газинформсервис» в этом году получил патент № 2867439 «Способ и система обучения интеллектуального средства защиты информации». Метод позволяет выявлять деградацию ИИ-средств защиты и устранять ее автоматически. Об этом IT Speaker рассказали в пресс-службе компании.

Фотография freepik

Качество защиты на основе машинного обучения напрямую зависит от актуальности данных, на которых модель обучалась. Инфраструктура постоянно меняется: появляются новые приложения, меняются модели поведения пользователей, возникают новые техники атак. Постепенно реальная среда перестает соответствовать той, на которой модель училась, и качество детектирования снижается – растут пропуски угроз и ложные срабатывания. Разовая проверка – аттестация или тест на исторических данных – фиксирует качество только в момент теста, а ручное дообучение требует времени и специалистов, и все это время средство защиты работает хуже, чем могло бы. Запатентованный метод закрывает этот разрыв замкнутым циклом «проверка – оценка – дообучение». Авторы изобретения – учредитель компании Валерий Пустарнаков, заместитель технического директора Лидия Виткова и сотрудники лаборатории технологий искусственного интеллекта Сергей Чатоян, Никита Бобров и Ирина Меженева.

ИИ-эксперт международной ИТ-компании KODE Иван Манжетов, комментируя IT Speaker этот подход, пояснил, почему ИИ-средства защиты деградируют со временем.

«Модель учится на вчерашних данных, а атаки меняются быстрее, чем ее успевают переобучить. Плюс меняется сама инфраструктура: облако, Kubernetes, новая сеть, новые сервисы. То, что модель считала нормой, перестает ею быть», – отметил он.

По его словам, аттестация и тест на исторических данных показывают, как система работала в конкретный день, а через полгода угрозы и среда уже другие, тогда как результат проверки остался прежним. Замкнутый цикл он сравнил с регулярным медосмотром в условиях, близких к боевым: дрейф видно раньше, чем случится пропущенный инцидент.

Интеллектуальное средство защиты – метод применим к системам классов EDR, NDR, XDR, UEBA и SIEM – помещают в тестовую среду, имитирующую автоматизированную систему. Это может быть виртуальная, аппаратная или гибридная среда, вплоть до участка киберполигона, воспроизводящего реальный защищаемый объект с его трафиком и активностью пользователей. Средство подвергают серии тестовых воздействий, а его отклики оценивают по частным показателям, например своевременности реагирования и устойчивости к ложным срабатываниям.

Частные показатели сводятся в интегральную оценку через функцию нелинейной свертки, а решение о корректировке принимается по пороговому критерию на шкале желательности. Ключевая особенность метода – адресность дообучения: если порог не достигнут, система находит в откликах именно те блоки данных, которые повлияли на провальные показатели, и дообучает модель только на них, а не на всем массиве. Цикл повторяется, пока средство не выйдет на требуемый уровень.

«Переучивать модель на всем массиве из-за одного слабого места – стрельба из пушки по воробьям. Ресурсы уходят на то, что она уже умеет, и можно сломать то, что работало. Адресно чиним только то, что сломалось», – поддержал такой подход Иван Манжетов.

Практический смысл метода – управляемое качество интеллектуальной защиты на всем жизненном цикле: меньше ложных срабатываний без потери полноты детектирования, безопасная отладка в тестовой среде без риска для боевой инфраструктуры и измеримость. Качество защиты перестает зависеть от человеческого фактора: оно выражается оценкой с порогом и динамикой, а не экспертным мнением.

«Сколько известных атак система пропускает и сколько ложных срабатываний дает в штатной работе. Если она постоянно кричит "волки", SOC перестанет на нее реагировать. По балансу этих двух цифр видно, защищает система или просто шумит», – назвал ключевыми две метрики Манжетов.

«Измеримость важна и для системы доверия к ИИ, которая сейчас формируется в России. По данным Консорциума исследований безопасности технологий ИИ, около 300 информационных систем в регионах уже используют различные технологии ИИ без учета актуальных рисков и угроз. В сентябре 2025 года Консорциум направил в Минцифры концепцию федерального реестра доверенных решений ИИ на основе риск-ориентированного отраслевого подхода; реестр рассматривается как репозиторий и полигон тестирования типовых ИИ-решений для государственных информационных систем», – отметила Лидия Виткова. 

Иван Манжетов добавил, что доверие к ИИ-защите нельзя выдать один раз: «Модель и среда меняются, значит, качество нужно подтверждать регулярно. Повторяемые испытания и прозрачные метрики позволяют сказать регулятору и заказчику не "нас когда-то проверили", а "проверяем постоянно, вот цифры"».

Рабочую группу № 3 Консорциума, отвечающую за это направление, возглавляет «Газинформсервис», лидер группы – заместитель технического директора компании Лидия Виткова.

Ранее компания «Газинформсервис» провела эксперимент, в ходе которого студенты создавали веб-интерфейс и дополнительный функционал продукта анализа конфигураций, используя только ИИ-агентов, без ручного написания кода. Эксперимент завершился успешно.

Поделиться новостью