Создана система защиты ИИ от кибератак

Специалисты ИТМО совместно с экспертами компании Raft разработали первую российскую систему защиты искусственного интеллекта от кибератак HiveTrace. Новинка совместима с любыми открытыми или закрытыми ИИ-моделями.

«Чтобы защитить ИИ от появляющихся уязвимостей, компания HiveTrace, в которую входят студенты онлайн-магистратуры AI Talent Hub ИТМО, при поддержке ИТ-компании Raft разработала HiveTrace. Это первая в России система защиты на основе ИИ, которая отражает кибератаки на веб-приложения с генеративным ИИ», – рассказали представители ИТМО. Их слова публикует ТАСС.

Система защищает ИИ-модели от 7 из 10 наиболее критичных уязвимостей. В будущем планируется увеличить количество функций, позволяющих бороться не только с существующими, но и зарождающимися киберугрозами.

«Зарубежный рынок предлагает много аналогов, но они не адаптированы под наш рынок и русский язык. Российские компании еще в начале пути по внедрению ИИ в бизнес-процессы, но со временем необходимость в защите ИИ-решений только увеличится. Крупные технологические компании обладают экспертизой в области защиты ИИ-систем, но существующие разработки созданы для внутренних задач и недоступны на рынке. Для остальных компаний, которые внедряют GenAI, нужны продукты для защиты ИИ», – заявил СЕО компании HiveTrace, руководитель AI Security лаборатории ИТМО Евгений Кокуйкин.

Ранее компания Google представила ИИ-инструмент Google для поиска уязвимостей. Новая разработка под названием Big Sleep уже обнаружила 20 уязвимостей в популярных open-source проектах.