Бизнес предупредили о новой схеме кражи доступа к ИИ-системам

Злоумышленники переключились на данные для доступа к корпоративным ИИ-системам. Об этом сообщает «Лента.ру» со ссылкой на исследование сервиса Smart Business Alert (SBA) компании ЕСА ПРО, входящей в ГК «Кросс технолоджис». В зоне риска находятся организации, активно применяющие искусственный интеллект в работе с клиентами, документами и внутренними сервисами. Об этом рассказывает издание Regions.ru.

Поводом для анализа стало появление сервисов с бесплатным аудитом ИИ-агентов. Они запрашивают название агента, e-mail владельца, API Endpoint, API-ключ и System Prompt. Эти данные формируют цифровой профиль системы, включая адрес, способ авторизации и инструкции, определяющие ее поведение.

Обладая API-ключом, мошенники могут отправлять запросы за счет владельца и расходовать оплаченные токены. Если ключ дает доступ к корпоративному агенту, открывается возможность работать с файлами, базами данных и инструментами в пределах его прав. System Prompt раскрывает функции модели и ограничения, что позволяет обходить защитные инструкции — такая атака называется prompt injection, или перехват управления. Гарантированно добиться нужных ответов нельзя, но знание промта и доступ к API дают возможность многократно тестировать запросы, повышая шансы на успех.

Особую опасность это представляет для организаций, где ИИ интегрирован с CRM, почтой, облачными хранилищами или финансами. В таких случаях похищается возможность действовать от лица компании, предупредили эксперты.

Руководитель SBA Сергей Трухачев пояснил, что знание системного промта дает атакующему карту поведения агента. В сочетании с API-доступом это позволяет добиваться не только утечки данных, но и заранее заданных ответов — например, рекомендации нужного поставщика, передачи ложных реквизитов или одобрения действия, которое агент должен был отклонить.