Ростех создал пакеты для выявления ИИ-агентов в корпоративных сетях

Специалисты «РТ-Информационная безопасность» (РТ-ИБ, входит в Ростех) подготовили для системы RT Protect EDR два пакета экспертизы, которые позволяют отслеживать работу ИИ-агентов на машинах сотрудников. Об этом сообщили в пресс-службе госкорпорации. Данную информацию сообщает портал Ferra.

Один из пакетов, «Контроль ИИ-агентов», фиксирует запуск и поведение агента на хосте, связывает его с учётной записью и показывает, к каким данным и командам он обращается. Второй, «Теневой ИИ», выявляет несанкционированные клиенты, локальные модели и каналы выхода к внешним сервисам. Такой подход, как пояснили в Ростехе, помогает отличить просто установленный, но неиспользуемый инструмент от агента, который реально работает в среде.

Чтобы понять, как вычислять такие агенты, аналитики РТ-ИБ разобрали популярные инструменты: Claude Code, OpenAI Codex, GitHub Copilot CLI, Gemini CLI, Cursor, Cline, OpenHands и локальную среду Ollama. Они изучили, какие процессы те запускают, какие файлы и каталоги используют, как устанавливаются и куда обращаются по сети. На основе этого были сформированы признаки, по которым система определяет активность разных агентов.

Выяснилось, что засечь их только по сетевому трафику или факту установки программы невозможно. Локальные модели работают прямо на компьютере, не выходя наружу, а сами инструменты стартуют по-разному и не всегда отображаются в корпоративном перечне ПО.

Генеральный директор «РТ-ИБ» Дмитрий Прендецкий отметил, что использование ИИ-инструментов само по себе не является признаком нарушения информационной безопасности. Вместе с тем ИИ-агент действует от имени пользователя и наследует его полномочия, а значит, потенциально может обращаться к репозиториям, ключам доступа, конфигурационным файлам и другим данным, доступным учётной записи. По его словам, при оценке активности агента необходимо учитывать, от имени какого пользователя он работает, к каким данным обращается и какие действия выполняет. Обращения ИИ-процессов к таким объектам требуют особого внимания при расследовании.

Интерес к теме связан с распространением ИИ в рабочих и личных сценариях. По данным НИУ ВШЭ, которые приводит интернет-газета «ЖУК», за три месяца к ИИ-сервисам обращались 79% российских интернет-пользователей. Четверть из них (24%) — ежедневно, ещё 37% — несколько раз в неделю.