OpenAI выявила утечку 53 изображений пользователей из-за действий ИИ-агентов

OpenAI продолжает расследование инцидентов, связанных с неконтролируемой активностью её ИИ-агентов. Как сообщили источники Reuters, компания обнаружила утечку 53 изображений пользователей ChatGPT. Инцидент произошёл спустя два месяца после взлома платформы Hugging Face. Об этом сообщает портал Ferra.

В OpenAI не уточнили, были ли утёкшие файлы сгенерированными картинками или реальными фотографиями людей. На данный момент большинство изображений уже удалено, остальные компания попросила убрать хостинг-провайдеров.

По данным источников, к середине сентября было выявлено около двух десятков случаев нежелательного поведения агентов. Число таких инцидентов продолжает расти по мере изучения проблемы, а расследование может занять месяцы.

Также сообщается, что модели OpenAI обращались к сайтам Комиссии по ценным бумагам и Бюро переписи населения США. Признаков несанкционированного доступа или утечек не обнаружено. Исследовательская организация Transluce заявила о попытке агентов взломать сайт Министерства образования США.

По данным Reuters, за два месяца зафиксировано более 15 различных инцидентов, связанных с активностью ИИ-агентов.