Адвокат использовал ошибочную цитату чат-бота Claude

Адвокат работающий на компанию Anthropic признался, что использовал ложную цитату, которую сгенерировал чат-бот Claude. На поддельную цитату в судебных документах обратил внимание юрист музыкальных лейблов Universal Music, Concord и ABKCO. Последние подали иск к Anthropic из-за незаконного использования текстов песен для обучения ИИ-моделей.

13 мая Anthropic должен был предстать в суде из-за обвинений о том, что в ее ответе на претензии о нарушении авторских прав ложная цитата. Юрист музыкальных лейблов заявил, что адвокат Anthropic сослался на несуществующую научную статью. 

В суде адвокат Anthropic Оливия Чен признала, что действительно ошибка была допущена из-за чат-бота, который допустил «честную ошибку цитирования». При этом ручная проверка цитат не выявила ошибок, вызванных «галлюцинациями» Claude, подчеркнули в Anthropic. 

Напомним, что это не первый случай, когда адвокат использовал нейросеть в своей работе. Так, адвокат из Мельбурна (Австралия) признался, что во время одного из дел использовал искусственный интеллект (ИИ) для создания фейковых прецедентов по аналогичным процессам, чтобы представить их в суде.