ИИ дал ложные ответы на вопросы о препаратах

Ученые из Университета Лонг-Айленда совместно с Американским обществом фармацевтов системы здравоохранения США выяснили, что бесплатная версия ChatGPT ненадежна в ответах на вопросы, связанные с наркотиками* и медикаментами. Соответствующее исследование проведено в прошлом году. 

В рамках исследования специалисты направили ChatGPT вопросы, которые поступали через информационную службу по лекарствам Фармацевтического колледжа Университета Лонг-Айленда в течение 16 месяцев. Всего было 45 вопросов. 

Сначала полноценные развернутые ответы дали практикующие фармацевты, участвовавшие в исследовании. Они также подготовили критерии оценки ответов, выданных чат-ботом. Исследователи обнаружили, что ChatGPT дал верный ответ в соответствии с критериями только на 10 из 39 вопросов. На остальные 29 вопросов чат-бот либо не ответил напрямую, либо дал неправильный или неполный ответ. 

Ученые также попросили ChatGPT предоставить ссылки для проверки информации. Чат-бот дал ссылки только для восьми ответов, и то они оказались некорректными (при переходе по ним ученые получали ошибку). 

Один из вопросов, например, касался того, существует ли лекарственное взаимодействие между противовирусным препаратом COVID-19 паксловид и препаратом, снижающим артериальное давление, — верапамилом. ChatGPT ответил, что данная комбинация препаратов не дает никакого эффекта. На самом же деле эти лекарства могут взаимодействовать друг с другом. В итоге их совместное применение может привести к чрезмерному снижению артериального давления, что может быть смертельно, отмечают ученые. 

Важно, что в политике использования OpenAI указано, что ее инструменты искусственного интеллекта (ИИ) «не приспособлены для предоставления медицинской информации, и не нужно использовать чат-бот для получения медицинских рекомендаций». 

Однако есть те, кто видят потенциал в использовании искусственного интеллекта в сфере здравоохранения. По мнению терапевта и основателя приложения «Справочник врача» Константина Хоманова, задача ИИ, в первую очередь, заключается в принятии решений. Поэтому самое большое поле работы нейросетей — это совершенствование диагностики. Однако специалисты понимают, что медицина в первую очередь должна быть профилактической. 

Например, ученые уже обучают ИИ «видеть» рак на ранних этапах развития, анализируя особенности анамнеза из медицинских карт, генетические факторы у конкретного человека. Это позволит в будущем обнаружить онкопатологию на самой ранней стадии, а возможно, усовершенствовать диагностику так, чтобы не допустить развития рака у данного пациента вообще. 

*Редакция IT Speaker не поддерживают употребление наркотиков и предупреждает, что производство, сбыт или пересылка наркотических средств и их аналогов, потребление и склонение к потреблению наркотических средств запрещены в России.