75% ИИ-сервисов компаний не соответствуют стандартам безопасности

59% компаний используют сразу несколько ИИ-сервисов: российские, зарубежные, собственные или заказную разработку. При этом 38% корпораций уже имеют собственные команды по разработке ИИ-решений для внутренних процессов. Об этом стало известно из исследования компаний «К2 Кибербезопасность» и «Лаборатория Касперского» относительно подходов российского бизнеса к безопасному использованию ИИ-технологий.  IT Speaker ознакомился с результатами. 

«Примечательно, что 38% корпораций уже имеют собственные команды по разработке ИИ-решений для внутренних процессов. Это свидетельствует о том, что искусственный интеллект воспринимается как стратегический актив, который предпочитают развивать самостоятельно. При этом, по результатам исследования, в 75% случаев эти процессы полностью или частично не соответствуют стандарту управления безопасностью собственных ИИ-разработок – MLSecOps . С управленческой точки зрения эти результаты демонстрируют разрыв: темпы внедрения ИИ уже опережают зрелость процессов, необходимых для контроля связанных с ним рисков. Рынок MLSecOps находится на этапе становления, и компании пока не понимают, как защищать собственные ИИ-разработки самостоятельно», – прокомментировал Александр Лысенко, ведущий эксперт по безопасности разработки и ИИ в «К2 Кибербезопасность». 

Согласно исследованию, основными причинами использования сразу нескольких ИИ-сервисов стало то, что инструменты справляются с разными задачами с разной эффективностью, поэтому под каждый процесс используется отдельный сервис. Также на это влияют индивидуальные предпочтения пользователей. 

75% компаний работают с отечественными публичными сервисами, 60% – с зарубежными. Доминирование российских продуктов ожидаемо: компании стремятся соответствовать требованиям законодательства и соблюдать политику импортозамещения. 

«Чем быстрее искусственный интеллект превращается в рабочую инфраструктуру, тем выше потребность в том, чтобы его безопасность перестала быть набором разрозненных инициатив. Доля компаний с управляемыми процессами по защите собственной ИИ-разработки пока составляет всего 18%, а зрелая практика MLSecOps есть только у 7%. В большинстве случаев (60%) безопасность обеспечивается исключительно силами разработчиков, без привлечения ИБ-отдела, что значительно повышает риски возникновения инцидентов. Практическим подходом должна быть синергия бизнеса, ИБ и разработки: интеграция требований безопасности в дорожные карты продуктов, разработка политик безопасности с учетом обратной связи от бизнес-подразделений и регулярный аудит процессов», – прокомментировал Владислав Тушканов, руководитель группы исследования технологий машинного обучения в «Лаборатории Касперского». 

Ранее компании K2 Cloud, «K2 Кибербезопасность» и Positive Technologies представили итоги масштабного исследования киберустойчивости российских компаний. Главный вывод – отечественные компании по-прежнему слабо готовы к реальным киберугрозам и не понимают, как выстраивать защиту самостоятельно.