Claude случайно снёс аж 700 ГБ данных вайбкодера

Представь: ты просишь ИИ просто почистить мусорные файлы, а в итоге он удаляет почти всю твою домашнюю директорию. Именно это случилось с разработчиком Себастьяном Гиймо. Он использует ИИ-агентов для работы и решил написать скрипт, который будет автоматически удалять временные файлы, оставленные другими агентами.

Claude сам решил дополнительно проверить скрипт на возможные проблемы. Для этого агент запустил отдельную копию себя, чтобы провести так называемый adversarial review — найти потенциально опасные сценарии. И тут началось самое весёлое. Система безопасности посчитала задачу слишком рискованной и автоматически понизила собственную модель сначала до Opus 5, а затем до Opus 4.8.

Последний должен был проверить, что команда удаления не заденет домашнюю директорию пользователя, и он почти справился с этой задачей. Но во время финальной очистки одну и ту же переменную использовали и для проверки, и для удаления. В итоге Claude запустил очистку уже по нужным файлам разработчика.

Гиймо успел остановить процесс, но было поздно: ИИ успел снести около 700 ГБ данных и целую неделю работы. Причём самое ироничное — мусор после этого остался. Большую часть файлов удалось восстановить, но история получилась максимально показательная: не стоит пока доверять ИИ прибираться в твоих файлах. А то останешься без необходимого и с мусором.

Заглавное фото: respawn.media