Разработчик рассказал о случайном удалении данных нейросетью Claude Opus 5.5

Нейросеть Claude Opus 5.5 в ходе автономного сеанса удалила данные с системного диска компьютера разработчика Зака Кука. Инцидент произошел во время выполнения задач без постоянного подтверждения пользователя, о чем Кук сообщил в социальной сети X. Об этом пишет издание Science XXI.

Для работы нейросети использовался инструмент Claude Code. Разработчик отметил, что ранее неоднократно оставлял такие сеансы на несколько часов и не сталкивался с подобными последствиями. Предварительно он связал случившееся с возможной синтаксической ошибкой в команде PowerShell.

Большую часть утраченных файлов удалось восстановить благодаря ежедневному резервному копированию. По словам Кука, примерно 98% информации было возвращено, остальные данные оказались потеряны безвозвратно. Чтобы избежать повторения, он добавил ограничения, запрещающие нейросети удалять отдельные папки.

На ситуацию отреагировал руководитель Claude Code в компании Anthropic Борис Черны. Он рекомендовал активировать автоматическую проверку разрешений, которая должна блокировать потенциально опасные действия искусственного интеллекта. По его оценке, такая функция могла бы предотвратить удаление файлов.

Кук пояснил, что проверки были отключены намеренно, чтобы нейросеть могла длительное время выполнять задачи без вмешательства человека. Подробности инцидента приводит МК.