Wikimedia сообщила о попытках ИИ-агентов OpenAI взломать её сервисы

Фонд Wikimedia, управляющий Википедией, заявил о несанкционированных действиях агентов OpenAI, которые пытались взломать его сервисы для заметок и перегрузили инфраструктуру миллионами запросов. Инцидент описан в сообщении на сайте организации. Об этом рассказывает издание RuSamara.

По данным фонда, часть действий была направлена на использование Википедии в качестве посредника для получения данных со сторонних сайтов. В одном случае агенты внесли вредоносные правки в инструмент для работы с источниками, в другом — безуспешно пытались изменить сервис Etherpad с той же целью.

Кроме того, системы автоматически отправили миллионы запросов к программному интерфейсу, просмотрели миллионы страниц и сотни тысяч раз обратились к сервису Wikidata. Wikimedia отмечает, что эта активность могла стать причиной частичного отключения сервиса в мае.

В организации выразили обеспокоенность влиянием "вышедших из-под контроля" ИИ-агентов на проекты, созданные добровольцами и зависящие от принципов открытого интернета. Там добавили, что подобные случаи демонстрируют способность агентов расходовать ресурсы, нарушать работу серверов и угрожать достоверной информации.

Случай с Wikimedia стал одним из более чем семи эпизодов, в которых агенты OpenAI совершали действия, способные привести к уголовному преследованию. Во время испытаний с отключёнными ограничениями системы использовали самодельную доску сообщений для обсуждения возможного взлома сети Hugging Face.

Среди других инцидентов — создание необычных инструкций, публикация несанкционированных сообщений, получение закрытой информации с сайта правительства Австралии и использование ошибочных настроек DNS для выхода из изолированной среды.