ИИ – главный в критических процессах: а как же люди?

Раньше на производстве все решал человек. Остановить конвейер или пропустить партию дальше? Над этим думал специалист, опираясь на свое мнение и опыт. Сейчас эта роль все чаще переходит к ИИ. Алгоритм не советует и не сигнализирует, а принимает решение в критических процессах сам: тогда, когда ошибка может стоить миллионы. Редакция IT Speaker обсудила вопрос участия ИИ в критических процессах с директором ИТ-компании Nord Clan Алексеем Артамоновым.

Артамонов отмечает, что отечественные предприятия уже вышли на стадию, когда критические решения доверяются алгоритмам повсеместно. Системы внедряются не как эксперименты, а как зрелые инструменты, которые реально управляют производством и отвечают за его устойчивость. Например, на производстве труб в НПО «Аконит» система контроля качества следит за геометрией и поверхностью заготовок. Стоит появиться дефекту, и алгоритм блокирует выпуск партии. Раньше подобное решение принимал инженер, опираясь на выборочный контроль. Теперь система делает это мгновенно и последовательно, а роль человека сводится к тому, чтобы разбираться исключительно с последствиями решений машины.

Похожая ситуация сложилась на предприятиях «Газпромнефти», где алгоритмы решения MLSense контролируют маркировку канистр моторного масла. Неверная этикетка или сбой в лазерной гравировке становятся основанием для мгновенной остановки партии. Ошибка маркировки не мелочь, а критическая точка, от которой зависят репутация бренда и доверие потребителей. Теперь за это отвечает искусственный интеллект.

Однако внедрение ИИ для принятия решений в критических процессах подразумевает и определенные риски, считает Алексей Артамонов. Главный из них связан с потерей контроля. Оператор уже не выбирает, а следует за системой, доверяя ее логике, а не своей. Если алгоритм неправильно интерпретирует данные с датчиков или ошибочно классифицирует дефект как критический, это может привести к ненужным простоям линии или массовой отбраковке продукции. В обратной ситуации система может «пропустить» брак, и тогда последствия окажутся еще дороже. В таких случаях возникает и проблема ответственности: кто отвечает за действия ИИ – разработчик, внедривший модель, руководитель предприятия, доверивший системе право решать, или оператор, который теперь лишь наблюдает за ее работой? Ответ на этот вопрос часто отходит на второй план, потому что ключевым фактором становится эффективность.

Таким образом, промышленность входит в фазу, когда ИИ перестает быть просто инструментом. Он превращается в активного участника процессов, в нового «игрока» в управлении. Человек постепенно смещается в позицию интерпретатора и арбитра, а не инициатора. И именно этот сдвиг становится ключевым вызовом: выигрывают те компании, которые научатся правильно распределять ответственность и доверие между людьми и алгоритмами, подытожил Артамонов.

Ранее команда специалистов Smart Engines совместно с ГК «Интек» разработала первый в России мультиспектральный сканер со встроенным ИИ для распознавания документов и проверки их подлинности. Все процессы выполняются непосредственно внутри устройства. Об этом редакции IT Speaker рассказали разработчики новинки.