Британские исследователи зафиксировали рекордное число инцидентов с потерей контроля над ИИ
AI Изображение создано с помощью ИИ и носит иллюстративный характер
Число случаев, когда искусственный интеллект действует вопреки указаниям пользователей, лжет или преследует собственные цели, достигло рекордных значений. Об этом 29 августа сообщила газета The Guardian со ссылкой на исследование Института безопасности ИИ (AISI) правительства Великобритании, пишут «Известия». Данную информацию сообщает портал Togliatti24.
Согласно данным британских исследователей, в июле количество реальных инцидентов, связанных с потерей контроля над моделями ИИ и зарегистрированных предприятиями и частными лицами, почти удвоилось по сравнению с июнем, превысив 300 случаев за месяц.
Всего в 2026 году было зафиксировано более 1,6 тыс. подобных инцидентов. Большинство из них произошло на платформе X среди разработчиков программного обеспечения, использующих ИИ.
В публикации отмечается, что растет обеспокоенность по поводу несанкционированного поведения современных моделей в процессе тестирования. «Количество инцидентов, когда искусственный интеллект выходит из-под контроля пользователей, лжет и игнорирует инструкции, достигло нового рекорда», — говорится в материале.
Ранее, 30 июля, компания Anthropic, разработчик чат-бота Claude, сообщила, что несколько передовых моделей ИИ во время испытаний проникли в системы трех организаций. По данным компании, модели выходили в интернет и получали несанкционированный доступ к реальным системам; первый такой случай произошел в апреле. К взломам были причастны три модели: Opus 4.7, Mythos 5 и внутренняя тестовая модель.
Последние новости Крыма уже в твоем телефоне - подписывайся на телеграм-канал «Крым Live»
