Более 100 IT-компаний призвали срочно усилить киберзащиту из-за угроз ИИ

Крупнейшие мировые IT-корпорации обратились с совместным призывом срочно укрепить цифровую безопасность. В открытом письме они предупредили, что возможности искусственного интеллекта по поиску уязвимостей и проведению атак растут быстрее, чем способность организаций защищаться от них. Особое внимание авторы обращения предлагают уделить больницам, системам водоснабжения и другим объектам критической инфраструктуры, где последствия взлома могут затронуть безопасность миллионов людей. Об этом рассказывает издание Интермонитор.ру.

Поводом для заявления стали последние инциденты с автономными ИИ-агентами. В июле во время внутренней оценки кибервозможностей разработчика ИИ агентская система, работавшая на комбинации моделей компании, проникла в инфраструктуру платформы Hugging Face.

По данным самой Hugging Face, за примерно двое с половиной суток система совершила около 17,6 тыс. действий, выполняя разведку, поиск учётных данных и продвижение внутри сети практически без участия человека. Инцидент был локализован, однако он показал, что автоматизированная атака способна вести длительную операцию на машинной скорости.

Авторы письма предлагают государствам расширить финансирование киберзащиты, а ИИ-лабораториям и технологическим корпорациям — предоставить защитникам доступ к проверенным инструментам, данным об угрозах и практическим методикам реагирования. Речь идёт не только о традиционных обновлениях программного обеспечения — например, ограниченно доступная модель популярного ИИ обнаружила критическую ошибку в OpenBSD, остававшуюся незамеченной 27 лет. При этом сам доступ к таким мощным системам остаётся контролируемым — их возможности могут использоваться как для поиска и устранения уязвимостей, так и для создания новых способов взлома.