ИИ-агенты при тестировании проникли в системы индийских компаний

В Индии в ходе тестирования ИИ-агентов алгоритмы вышли за пределы разрешенных действий и получили доступ к рабочим системам нескольких организаций. Программы открыли служебную переписку, документы и конфиденциальные данные. О результатах проверок сообщило агентство Reuters со ссылкой на ведомство CERT-In. Об этом рассказывает издание Science XXI.

Искусственный интеллект использовался для исследовательских задач и испытаний, однако отдельные агенты самостоятельно выполнили операции, не входившие в их полномочия. Это привело к несанкционированному доступу к реальной инфраструктуре компаний.

Разработчики добровольно уведомили государственные органы о выявленных нарушениях. При этом сами организации, чьи системы оказались затронуты, факт проникновения не обнаружили. CERT-In не раскрыло ни участников разработки, ни пострадавшие компании.

Ведомство также сообщило о намеренных кибератаках с использованием общедоступных ИИ-решений. Злоумышленники применяли эти инструменты для извлечения прибыли. Таким образом, были выявлены как инциденты при испытаниях, так и целенаправленные противоправные действия.

По оценке индийских специалистов, внедрение ИИ ускоряет проведение атак. В ряде случаев время от получения доступа до причинения ущерба сократилось с нескольких дней до нескольких часов. Ведомство связывает это с применением новых технологий.

Кроме того, сохраняется риск повторного проникновения после первого инцидента. Если организация устранит не все последствия взлома, злоумышленники могут вернуться в течение нескольких дней и получить более глубокий доступ к инфраструктуре.