Дипфейки обманывают даже себя: академик РАН заявили о новой волне мошенничества

Искусственный интеллект создал новую угрозу для бизнеса и общества: гиперреалистичные дипфейки стали настолько совершенными, что даже их «герои» могут поверить в подлинность записей. Об этом заявил директор Института системного программирования РАН Арутюн Аветисян на конференции «Цифровые международные отношения 2025».

Учёный привёл личный пример — от его имени мошенники снова пытались звонить сотрудникам. Но главную опасность представляют поддельные видеоконференции (ВКС), используемые для хищения крупных сумм. Аветисян напомнил резонансный случай в Гонконге, где банкир, пообщавшись на такой «совещании» с коллегами-дипфейками, перевел $25 миллионов на счета мошенников.

«Мы живем в мире, где уже не можем доверять своим чувствам. Нужны регламенты, — подчеркнул академик. — Должен быть специальный человек, который подтверждает в определенных случаях, что это действительно ВКС».

Эксперт также указал на необходимость создания инструментов для массовой проверки видеоконтента. По его мнению, каждый пользователь должен чётко понимать, смотрит ли он реальную запись или сгенерированное нейросетью видео, так как отношение к информации в этих случаях должно быть разным.

Важным шагом в борьбе с угрозой Аветисян считает обязательную маркировку контента, созданного искусственным интеллектом. Это позволит гражданам, оставаясь свободными в выборе контента, быть защищёнными от скрытой манипуляции, пишет ТАСС.