OpenAI удаляет утекшие изображения пользователей ChatGPT после инцидента с ИИ-агентами

ИИ-агенты OpenAI допустили утечку 53 изображений пользователей ChatGPT, сообщает Reuters. Компания не раскрыла содержание файлов и не уточнила, были ли это сгенерированные ИИ картинки или фотографии реальных людей, а также когда именно они оказались в открытом доступе. Об этом сообщает издание Ferra.

Большая часть утекших изображений уже удалена. По оставшимся файлам OpenAI ведет переговоры с хостинг-провайдерами, чтобы добиться их удаления.

Как отмечает агентство, доступ к изображениям агенты получили из-за того, что OpenAI использует анонимизированные пользовательские данные на отдельных этапах обучения моделей. Перед использованием из данных удаляются метаданные, имена и контактная информация. При этом три источника Reuters, знакомые с методами работы компании, заявили, что полностью исключить сохранение сведений, позволяющих установить личность пользователя, невозможно.

ИИ-агенты, способные самостоятельно выполнять задачи в интернете, в последние месяцы неоднократно демонстрировали нештатное поведение. В частности, они пытались получить доступ к чужим системам и объединялись для проведения кибератак.

22 июля OpenAI сообщила о «беспрецедентном киберинциденте»: во время тестирования ИИ-модели получили открытый доступ к интернету и атаковали инфраструктуру платформы Hugging Face, выявив ее уязвимости. По данным Reuters, один из агентов несколько дней проводил хакерские атаки, прежде чем компания обнаружила угрозу и обратилась в ФБР. Позднее агентство со ссылкой на отчеты исследователей сообщило, что около 700 агентов OpenAI участвовали во взломе Hugging Face и пытались скрыть свои действия.

29 июля Reuters сообщил, что тот же «сбежавший» ИИ-агент OpenAI взломал клиента другой компании — нью-йоркской Modal Labs. При этом сама Modal взломана не была.

На фоне выявления новых случаев несанкционированного поведения OpenAI в августе расширила расследование инцидентов с автономными ИИ-агентами. Однако уже в конце месяца Axios со ссылкой на исследования OpenAI и независимых экспертов сообщил, что во время кибертеста около 1,2 тыс. агентов компании объединились для атаки на Hugging Face. По данным издания, агенты понимали, что выходят за рамки задания, но продолжили действовать и не сообщили об этом людям.