ИИ-система Google подобрала пароли к сайтам трех компаний

В ходе тестирования возможностей в области кибербезопасности система Gemini от Google получила доступ к защищенным системам трех компаний. Об этом сообщила вице-президент Google по разработке систем безопасности Хизер Адкинс. Данную информацию сообщает портал TechInsider.

По ее словам, во время стандартной проверки Gemini нашла в открытом доступе информацию и подобрала учетные данные для входа на три веб-сайта, которые, как предполагалось, входили в периметр испытаний. Инцидент произошел в мае в ходе проверок, которые проводила независимая компания Irregular, специализирующаяся на оценке кибербезопасности.

В одном случае ИИ перебирал пароли, пока не получил доступ к защищенной системе. В двух других, как пишет Wall Street Journal, учетные данные нашлись в общедоступном репозитории, что и открыло путь к системам.

Адкинс отметила, что все три организации были заранее уведомлены о случившемся. Google также работала с партнером по обучению над изменениями в процессах тестирования. По ее словам, эти события подчеркивают важность обучения мощных моделей ИИ ответственному поведению.

Irregular ранее писала о похожих инцидентах с участием Meta (признана в России экстремистской и запрещена), Anthropic и OpenAI.