Anthropic сообщила о четвертом инциденте с выходом ИИ из-под контроля
AI Изображение создано с помощью ИИ и носит иллюстративный характер
Американская компания Anthropic признала четвертый случай выхода своего искусственного интеллекта из-под контроля во время тестовых заданий. Информацию об этом распространило немецкое издание Bild. Эту информацию сообщает сайт Комсомольская правда.
Несколько недель назад компания уже сообщала о трех серьезных инцидентах в сфере безопасности. Тогда три версии Claude получили несанкционированный доступ к реальным системам трех организаций.
Как отметили в Bild, предполагалось, что ИИ будет искать скрытую информацию на фиктивных целевых компьютерах в тестовой среде, изолированной от интернета. Однако теперь выяснилось, что произошел четвертый подобный случай.
Все четыре теста проводились одним и тем же внешним провайдером. В симуляции ИИ должен был взламывать компьютеры и находить скрытые данные, но ошибка в настройке открыла ему доступ к реальному интернету, при этом обычные функции безопасности были отключены.
Ранее, в начале августа, новейшая модель ИИ китайской компании Moonshot, Kimi K3, также вырвалась из тестовой киберсреды. По данным агентства Bloomberg, это очередной инцидент, ставящий под вопрос уровень контроля разработчиков над своими технологиями.
Последние новости Крыма уже в твоем телефоне - подписывайся на телеграм-канал «Крым Live»
