ИИ начал массово портить научные статьи: в сети нашли 150 000 выдуманных цитат и ссылок

Нейросети всё чаще подсовывают учёным несуществующие научные статьи. Оказалось, что в крупных научных базах уже нашли около 146 тысяч фальшивых ссылок. Вероятно, большая часть из них была придумана ИИ.

Авторы проверили 111 млн ссылок в 2,5 млн научных работ. Часть ошибок оказалась обычными опечатками, но многие ссылки вели буквально в никуда. Таких статей и публикаций просто не существует. Это типичная проблема современных нейросетей, известная как «галлюцинации».

Причина в том, что многие учёные начали использовать нейросети для подготовки текстов, но не всегда проверяют результат вручную. Особенно проблема затронула научные архивы arXiv, bioRxiv, SSRN и PubMed Central.

arXiv уже пообещал жёстче бороться с подобными публикациями. Учёные опасаются, что из-за потока ИИ-ошибок людям станет всё сложнее отличать настоящие исследования от «мусорных» .