Качество научных исследований под ударом из-за ChatGPT

Исследователи выяснили, что неконтролируемое использование ИИ в работе над научными публикациями прямо влияет на их качество, причем в негативном ключе. Так, научные исследования полны «упрощений» сложных понятий.

Ключевой проблемой стало то, что тексты, генерируемые ИИ, порой содержат искаженную или неполную информацию. Также применение генерации материалов приводит к рискам плагиата и созданию неоригинального контента. Это может вредить развитию научной мысли, так как исследователи могут опираться на неточные данные или поверхностные выводы, не проверяя их глубоко и критически.

При этом эксперты согласны, что при грамотном, осознанном применении ChatGPT и подобных моделей, чат-боты являются мощным инструментом для оптимизации рутинных задач: помощь в поиске литературы, составлении обзоров и редактуре текста повышает скорость и качество подготовки научных статей.

Важный момент – обязательная редакция и проверка генераций ученым. Использование ИИ не должно заменять критическое мышление и творческий потенциал исследователя, а лишь служить вспомогательным ресурсом, подчеркивают исследователи.

Данная проблема фиксируется не только в науке. К примеру, врачи теряют навыки самостоятельной диагностики рака после нескольких месяцев использования ИИ в рабочих целях. Соответствующий анализ ученые проводили с конца 2021-го по начало 2022 года в Польше.