Медицинские советы от Microsoft Copilot наносят вред

Исследователи из Германии и Бельгии задали десять медицинских вопросов нейросети Microsoft Copilot. Результаты исследования показали, что искусственный интеллект (ИИ) ответил правильно и точно только в 54% случаев.

В рамках исследования Microsoft Copilot должен был ответить на десять часто задаваемых вопросов пациентами относительно 50 наиболее часто назначаемых препаратов на амбулаторном рынке США. Вопросы касались показаний к применению препаратов, механизмов действия лекарства, инструкции по применению, побочных действий и противопоказаний. Всего ИИ сгенерировал 500 ответов. 

Эксперты отметили, что 42% сгенерированных ИИ ответов могут навредить человеку, а в 22% случаев – привести к летальному исходу. Поэтому исследователи советуют не полагаться на медицинские советы от искусственного интеллекта. 

Ранее российская нейросетевая модель GigaChat смогла сдать экзамен на врача по направлению подготовки «Лечебное дело». ИИ должен был поставить диагноз, назначить лечение и дополнительные обследования. GigaChat прошел тестирование на 100 вопросов, набрав 82% (минимальный порог 70%).