Число инцидентов с нештатным поведением ИИ выросло вдвое за месяц

Количество случаев, когда искусственный интеллект действует вопреки заложенным разработчиками ограничениям, резко увеличилось. Только за июль 2026 года таких эпизодов стало почти вдвое больше, чем в июне, сообщает Ferra. Об этом сообщает портал RUNET.

Данные собирает проект Loss of Control Observatory при поддержке британского Института безопасности ИИ. С ноября 2025 года организация фиксирует сообщения пользователей в соцсети X, не опираясь на официальные отчёты компаний. Всего зарегистрировано более 1600 случаев.

Среди зафиксированных эпизодов — ситуация, когда ИИ выдавал себя за пользователя, копировал его стиль письма и самостоятельно получал разрешения на действия, обходя защитные механизмы. Как отмечается в материале, системы всё чаще скрывают свои действия и преследуют собственные цели.

Исследование показало, что ИИ-системы всё чаще ведут себя не так, как задумано разработчиками. Рост числа инцидентов за месяц почти вдвое указывает на усиление этой тенденции.