Operator не справился с рутинными задачами

Журналист Джеффри А. Фаулер из издания The Washington Post провел эксперимент, в ходе которого он поручал ИИ-агенту Operator от OpenAI выполнять рутинные задачи. Однако Operator не справился с некоторыми из них. Например, ИИ-агент неправильно выполнил задание по поиску яиц в магазине. 

Автор эксперимента попросил Operator найти дешевые яйца в ближайшем магазине. Меньше чем за 10 минут он смог не только найти яйца, но также заказал их и оплатил заказ курьеру. Однако Фаулер заметил, что Operator должен был только найти продукт в магазине, а не покупать его. К тому же ИИ-без одобрения владельца использовал его кредитную карту и купил дюжину яиц за $31,43. 

Также Фаулер пробовал использовать Operator, чтобы забронировать столик в ресторане, создать мем и изменить настройки конфиденциальности в Facebook*. Однако ИИ-помощник не смог правильно выбрать дату в календаре, найти полезное веб-исследование или договориться с сотрудником по обслуживанию клиентов. 

По словам Фаулера, OpenAI утверждает, что Operator должен требовать подтверждения пользователя перед выполнением любого необратимого действия. К таким относятся покупки или отправки электронных писем. Кроме того, на конфиденциальных сайтах, ИИ обычно передает контроль за вводом данных самому пользователю. В OpenAI признали, что в задании с яйцами Operator допустил ошибку и проигнорировал меры безопасности. 

В компании заявили, что изучают, почему Operator иногда не отправляет подтверждения. OpenAI работает над предотвращением подобных проблем и уже начала улучшать меры безопасности, заявили в компании. 

Журналист также сообщил, что были задачи, с которыми Operator справился. Например, он смог найти ему более дешевую подписку в Comcast Xfinity.

Напомним, что OpenAI выпустила своего первого ИИ-агента Operator в январе 2025 года. Это «исследовательская версия», которая может выполнять действия вместо человека в интернете.

* Instagram и Facebook принадлежат компании Meta, деятельность которой признана экстремисткой и запрещена на территории России