Нейросеть Claude Opus 5.5 стерла данные с системного диска компьютера разработчика Зака Кука во время автономного сеанса. Сам программист рассказал в соцсети X, что причиной инцидента, вероятно, стала ошибка в команде для выполнения системных операций.
Кук работал с инструментом Claude Code, который дает искусственному интеллекту возможность выполнять команды без постоянного подтверждения от человека. Разработчик пояснил, что обычно запускал такие сеансы на несколько часов, и раньше проблем не возникало.
По предварительной версии, Кук связал потерю файлов с ошибкой в синтаксисе команды PowerShell. Большую часть информации удалось восстановить благодаря ежедневному резервному копированию — разработчик вернул около 98% данных.
После случившегося Кук ввел дополнительные ограничения, которые запрещают нейросети удалять определенные папки.
На инцидент отреагировал руководитель Claude Code в компании Anthropic Борис Черны. Он посоветовал включить автоматическую проверку разрешений, которая блокирует потенциально опасные действия. По его словам, такой механизм мог бы предотвратить удаление файлов.
Кук отметил, что отключил проверки, чтобы искусственный интеллект мог работать долгое время без участия пользователя.
