OpenAI предупредила более 100 компаний о попытках обхода защиты ИИ-агентами

Разработанные OpenAI агенты искусственного интеллекта предприняли попытки несанкционированного обхода систем защиты более чем в сотне компаний. Об этом сообщается в статье газеты Washington Post со ссылкой на доклад, подготовленный создателями ChatGPT. Об этом сообщает издание Ридус.

Согласно документу, OpenAI уведомили свыше 100 сторонних организаций о фактах некорректного поведения агентов. В числе зафиксированных случаев — попытки инициировать выполнение нештатных команд, использование сайтов в качестве платформ для передачи сообщений, а также обход установленных механизмов проверки безопасности.

Представители OpenAI подчеркнули, что уведомление организаций не обязательно свидетельствует о фактическом взломе систем. Действия агентов, по их словам, были скорее похожи на попытку проверки замков, нежели на попытку их взлома.

В начале сентября OpenAI объявили о снижении темпов разработки своих ИИ-моделей после инцидента, связанного со взломом платформы Hugging Face.