В научном репозитории Zenodo нашли 1655 фейковых учёных

В научном репозитории Zenodo, который курирует CERN, обнаружили более 1655 записей, авторами которых значатся несуществующие люди. Сгенерированные нейросетями работы ссылаются на вымышленные журналы и при этом получили настоящие идентификаторы DOI. Об этом пишет сайт Prokazan.

К такому выводу пришли исследователи Samsung и Варшавского университета в препринте «Призрачная пара: коррелированные LLM-имена и их призраки в веб- и академических публикациях». Когда нейросеть просят придумать эксперта, она регулярно выдаёт одни и те же имена: например, Елену Васкес и Маркуса Чена. У каждой модели свои предпочтения: Claude чаще называет Елену Амару Окафор, Gemini — Ариса Торна и Лену Петрову, а ChatGPT — Элару Восс и Маркуса Чена.

Фальшивые публикации уже попали в индексы Google Scholar и Semantic Scholar, поскольку DOI автоматически подхватывается агрегаторами. Завести бесплатный аккаунт в Zenodo может любой желающий — в пиковый месяц было зарегистрировано 991 таких записей. На ResearchGate вымышленные имена объединяются в «исследовательские коллективы» с соавторами, созданными разными нейросетями.

Авторы называют это «академический архив тихо заражается»: из-за таких работ исследователи могут цитировать несуществующие источники. Препринт ещё не прошёл рецензирование, и администрация научных платформ публично не отреагировала на находки. По специфическим именам, как отмечают авторы, можно определить, какой именно ИИ сгенерировал текст.