ИИ сможет «уйти с работы»

Генеральный директор Anthropic Дарио Амодеи считает, что в будущем продвинутые модели ИИ смогут прекратить выполнять задачи, которые покажутся им «неприятными», нажав на специальную кнопку. Об этом он рассказал в интервью в Совете по международным отношениям.

Специалист по данным Кармем Домингес, которая напомнила, что Anthropic в конце 2024 года наняла исследователя в области благосостояния ИИ, спросила, какое будущее ждет модели ИИ, а также будет ли для них какая-нибудь защита с моральной стороны. Дарио Амодеи ответил, уточнив, что его идея сейчас «звучит безумно».

«Я думаю, что мы должны по крайней мере рассмотреть при создании моделей, которые работают подобно людям, и, похоже, обладают схожими когнитивными способностями, такой вопрос: если они крякают как утка и ходят как утка, может быть, это утка. Мы думаем о том, чтобы при развертывании моделей в их средах просто давать им кнопку с надписью "Я ухожу с этой работы". Если, предположив, что у модели есть опыт и что она достаточно ненавидит эту работу, дайте ей возможность нажать кнопку», – сказал Дарио Амодеи.

Он также отметил, что если ИИ будет нажимать на такую кнопку слишком часто, то возможно на это стоит обратить внимание. Однако некоторые пользователи в соцсетях X и Reddit считают, что не стоит наделять ИИ человеческими чувствами, поскольку они лишены субъективного опыта.

Пользователи также считают, что если нейросеть будет пользоваться данной кнопкой, то это лишь показывает наличие проблем с плохо структурированными стимулами или непреднамеренными стратегиями оптимизации во время обучения.

Ранее пользователь ChatGPT Бетани Кристал рассказала, что чат-бот проанализировал снимок ее ноги с сыпью и анализ крови. После этого ChatGPT посоветовал женщине обратиться в отделение неотложной помощи. Это спасло ее жизнь.

Бетани сообщила, что испытывала дискомфорт, однако врач по результатам анализов назначил ей лишь диету. Спустя некоторое время женщина почувствовала себя только хуже, из-за чего она обратилась к ChatGPT. Чат-бот скорректировал ее план диеты. Однако на следующий день она заметила на ногах крошечные красные точки.