Эксперт предупредила о риске подмены запросов к нейросетям через расширения браузера

Специалист по информационной безопасности компании "Киберпротект" Екатерина Киприянова рассказала, что расширение браузера способно изменить запрос пользователя к нейросети до того, как он будет обработан моделью. Об этом сообщает "Газета.Ru". Об этом рассказывает издание РИА Новости.

По словам эксперта, дополнение, имеющее доступ к содержимому страницы, может прочитать введенный текст, изменить его или добавить скрытую инструкцию. При этом пользователь находится на настоящем сайте ИИ-сервиса, и признаков поддельной страницы нет, однако модель получает уже измененный запрос и может предложить подставленную ссылку или включить сведения, о которых человек не спрашивал. Для этого не требуется взламывать сам сервис.

Киприянова также предупредила о риске утечки данных: расширение с широкими правами может получить доступ к фрагментам документов, переписке или коду, которые пользователь вставил в запрос. Если измененный ответ использовать без проверки, неверная инструкция может попасть в рабочий документ, ссылка — в переписку, а небезопасный код — в программный продукт.

Особенно серьезные последствия возможны при использовании ИИ-агента, который может работать с файлами, почтой и другими сервисами, а иногда выполнять действия от имени пользователя. В такой ситуации подмененная инструкция влияет уже не только на текст ответа.

Эксперт посоветовала проверить расширения в рабочем браузере, удалить ненужные и обратить внимание на запрашиваемые разрешения. Если простому дополнению нужен доступ ко всем сайтам, стоит выяснить, зачем это требуется.