17:50 / 17 ноября 2026
«Газинформсервис» запатентовал метод борьбы с деградацией ИИ-защиты - IT Speaker, новости информационных технологий
«Газинформсервис» в этом году получил патент № 2867439 «Способ и система обучения интеллектуального средства защиты информации». Метод позволяет выявлять деградацию ИИ-средств защиты и устранять ее автоматически. Об этом IT Speaker рассказали в пресс-службе компании.
Качество защиты на основе машинного обучения напрямую зависит от актуальности данных, на которых модель обучалась. Инфраструктура постоянно меняется: появляются новые приложения, меняются модели поведения пользователей, возникают новые техники атак. Постепенно реальная среда перестает соответствовать той, на которой модель училась, и качество детектирования снижается – растут пропуски угроз и ложные срабатывания. Разовая проверка – аттестация или тест на исторических данных – фиксирует качество только в момент теста, а ручное дообучение требует времени и специалистов, и все это время средство защиты работает хуже, чем могло бы. Запатентованный метод закрывает этот разрыв замкнутым циклом «проверка – оценка – дообучение». Авторы изобретения – учредитель компании Валерий Пустарнаков, заместитель технического директора Лидия Виткова и сотрудники лаборатории технологий искусственного интеллекта Сергей Чатоян, Никита Бобров и Ирина Меженева.
ИИ-эксперт международной ИТ-компании KODE Иван Манжетов, комментируя IT Speaker этот подход, пояснил, почему ИИ-средства защиты деградируют со временем.
«Модель учится на вчерашних данных, а атаки меняются быстрее, чем ее успевают переобучить. Плюс меняется сама инфраструктура: облако, Kubernetes, новая сеть, новые сервисы. То, что модель считала нормой, перестает ею быть», – отметил он.
По его словам, аттестация и тест на исторических данных показывают, как система работала в конкретный день, а через полгода угрозы и среда уже другие, тогда как результат проверки остался прежним. Замкнутый цикл он сравнил с регулярным медосмотром в условиях, близких к боевым: дрейф видно раньше, чем случится пропущенный инцидент.
Интеллектуальное средство защиты – метод применим к системам классов EDR, NDR, XDR, UEBA и SIEM – помещают в тестовую среду, имитирующую автоматизированную систему. Это может быть виртуальная, аппаратная или гибридная среда, вплоть до участка киберполигона, воспроизводящего реальный защищаемый объект с его трафиком и активностью пользователей. Средство подвергают серии тестовых воздействий, а его отклики оценивают по частным показателям, например своевременности реагирования и устойчивости к ложным срабатываниям.
Частные показатели сводятся в интегральную оценку через функцию нелинейной свертки, а решение о корректировке принимается по пороговому критерию на шкале желательности. Ключевая особенность метода – адресность дообучения: если порог не достигнут, система находит в откликах именно те блоки данных, которые повлияли на провальные показатели, и дообучает модель только на них, а не на всем массиве. Цикл повторяется, пока средство не выйдет на требуемый уровень.
«Переучивать модель на всем массиве из-за одного слабого места – стрельба из пушки по воробьям. Ресурсы уходят на то, что она уже умеет, и можно сломать то, что работало. Адресно чиним только то, что сломалось», – поддержал такой подход Иван Манжетов.
Практический смысл метода – управляемое качество интеллектуальной защиты на всем жизненном цикле: меньше ложных срабатываний без потери полноты детектирования, безопасная отладка в тестовой среде без риска для боевой инфраструктуры и измеримость. Качество защиты перестает зависеть от человеческого фактора: оно выражается оценкой с порогом и динамикой, а не экспертным мнением.
«Сколько известных атак система пропускает и сколько ложных срабатываний дает в штатной работе. Если она постоянно кричит "волки", SOC перестанет на нее реагировать. По балансу этих двух цифр видно, защищает система или просто шумит», – назвал ключевыми две метрики Манжетов.
«Измеримость важна и для системы доверия к ИИ, которая сейчас формируется в России. По данным Консорциума исследований безопасности технологий ИИ, около 300 информационных систем в регионах уже используют различные технологии ИИ без учета актуальных рисков и угроз. В сентябре 2025 года Консорциум направил в Минцифры концепцию федерального реестра доверенных решений ИИ на основе риск-ориентированного отраслевого подхода; реестр рассматривается как репозиторий и полигон тестирования типовых ИИ-решений для государственных информационных систем», – отметила Лидия Виткова.
Иван Манжетов добавил, что доверие к ИИ-защите нельзя выдать один раз: «Модель и среда меняются, значит, качество нужно подтверждать регулярно. Повторяемые испытания и прозрачные метрики позволяют сказать регулятору и заказчику не "нас когда-то проверили", а "проверяем постоянно, вот цифры"».
Рабочую группу № 3 Консорциума, отвечающую за это направление, возглавляет «Газинформсервис», лидер группы – заместитель технического директора компании Лидия Виткова.
Ранее компания «Газинформсервис» провела эксперимент, в ходе которого студенты создавали веб-интерфейс и дополнительный функционал продукта анализа конфигураций, используя только ИИ-агентов, без ручного написания кода. Эксперимент завершился успешно.
Поделиться новостью
17:50 / 17 ноября 2026
17:10 / 17 ноября 2026
16:30 / 17 ноября 2026
15:50 / 17 ноября 2026
«Сбер» представил портативную умную колонку
16:30 / 17 ноября 2026
Cloud.ru займется национальной сертификацией ИТ-специалистов в облаках
15:50 / 17 ноября 2026
Соцсети и мессенджеры
Цифровизация
15:10 / 17 ноября 2026
VK Tech запустил подключение ИИ-агентов в проектах VK WorkSpace
13:50 / 17 ноября 2026