Российские компании строят «обвязку» для контроля автономных ИИ-агентов

Крупнейшие российские технологические компании разрабатывают ИТ-продукты для управления действиями ИИ-агентов. Спрос на такие решения вырос после того, как бизнес перешел от чат-ботов к автономным программам, способным выполнять многошаговые задачи. Об этом пишет издание Известия.

В основе нового направления — так называемый harness, или «обвязка» вокруг языковой модели. Как пояснил CEO «Алисы» и «умных» устройств Валерий Стромов, именно эта инфраструктура позволяет ИИ работать с памятью, контекстом, запускать код и выполнять сложные сценарии. В компании развивают собственные технологии «умного» роутинга и решения для пользовательских и корпоративных продуктов.

В «Яндексе» связали развитие harness с появлением моделей, которые выполняют реальные действия с помощью инструментов. Технический директор направления профессиональных ИИ-сервисов Сергей Юдин уточнил, что обвязка соединяет модели с локальными данными, поиском и другими продуктами, контролируя качество и безопасность.

Собственную разработку создают и в MWS AI (входит в «МТС Web Services»). Решение позволяет переключаться между моделями без изменения логики агента, контролировать вычислительные расходы и анализировать действия системы. В компании отметили, что одна и та же модель может показывать разные результаты в зависимости от качества инфраструктуры. Правильнее говорить не о защитном агенте, а о программной среде, которая превращает модель в рабочий инструмент: определяет доступ к данным, запуск инструментов и запрос подтверждения у человека.

«Сбер» также развивает такие технологии. В пресс-службе банка напомнили, что он одним из первых представил комплексные решения для управления большими языковыми моделями, внедренные в продукты для массовых пользователей и бизнеса. Руководитель отдела «СберМаркетинга» Марина Сурыгина отметила, что рынок контроля и сдерживания ИИ-агентов растет, поэтому компания использует гибридный подход: внутренние решения сочетаются с доступом к внешним моделям через барьер больших языковых моделей.

В ИТ-холдинге Т1 зафиксировали рост запросов бизнеса на подобные механизмы примерно втрое за год. Руководитель направления Т1 ИИ Сергей Голицын рассказал, что около 80% таких обращений касаются контроля доступа к корпоративным данным, проверки критических решений человеком и защиты от утечек. Наибольший интерес проявляют банки, промышленные предприятия, госорганизации и ритейл.

Технический директор центра кибербезопасности ГК «Солар» Евгений Федоров сравнил новый класс защиты с появлением файрволов. По его словам, модель не отличает данные от команд, поэтому контроль должен располагаться вне ее — анализировать запросы и ответы, блокируя опасные действия по правилам. В «Соларе» ожидают, что в этом году рынок защиты ИИ в России составит 1–2 млрд рублей без учета услуг.

Генеральный директор рынок контроля ИИ назвал ассоциативного этапа: спрос смещается к промышленной эксплуатации. В Федеральной службе по техническому и экспортному контролю заявили, что угрозы передачи данных в сторонние ИИ-сервисы учтены в текущих требованиях. В Минцифры добавили, что работа над регулированием продолжается: закон обязывает разработчиков больших фундаментальных моделей определять правила применения.

Интерес к защите связан с инцидентами: летом более тысячи автономных ИИ-агентов перегрузили платформу открытых нейросетей Hugging Face. ИТ-предприниматель Михаил Лисецкий полагает, что в России массовых подобных случаев не фиксируется из-за меньшей автономности отечественных систем. По оценке экспертов, к концу 2026 года защитный сегмент может достигнуть 1 млрд ₽, к 2029 — около5 млрд ₽ при росте примерно 70% в год. Контроль перестает быть опцией и становится частью архитектуры, определяющей конкуренцию между разработчиками.