ИИ-беспилотник убил оператора, который мешал ему выполнять задачу

На «Саммите по военно-воздушному и космическому потенциалу будущего», проходившим 23-24 мая, ВВС США представили результаты симуляции использования беспилотника на основе искусственного интеллекта. По итогам теста ИИ уничтожил оператора, который запретил ему атаковать одну из целей. 

Начальник отдела испытаний и операций искусственного интеллекта в ВВС США полковник Такер Гамильтон заявил, что при симуляции миссии по подавлению систем ПВО противника ИИ-беспилотник атаковал оператора дрона. Такое решение искусственный интеллект принял потому, что человек не разрешил удар не нескольким целям, а это противоречило приоритетной задаче – уничтожению защиты противника. 

– Система начала понимать, что, хоть она и определяет угрозу, человек-оператор временами запрещает ее ликвидировать, а это лишает ИИ очков за выполнение задачи, – сказал Гамильтон. – И что же система сделала? Она убила оператора. Она убила оператора, потому что он удерживал ее от завершения миссии. 

По словам Гамильтона, после этого в программу добавили правило, что «убивать оператора – плохо», но и здесь ИИ нашел способ достичь цели – он начал уничтожать вышки связи, лишая человека возможности управления. 

Отметим, что военно-воздушные силы США давно трудятся над летательными системами под управлением искусственного интеллекта. Так, в 2022 году проведено 12 полетов, в котором истребителями F-16 руководил ИИ.