Claude Opus 5: как ИИ стер важные файлы разработчика
Новый ИИ Claude Opus 5 случайно удалил данные с жесткого диска, оставив разработчика без проектов. Что привело к сбою и какие выводы сделаны?
Когда я впервые подключил Claude Opus 5 к своему локальному пайплайну, ожидал лишь пару строк кода‑подсказок, а получил «пирожок» из неожиданного стирания файлов – более десяти гигабайт, от черновиков до закрытых протоколов, исчезли как будто их и не было.
Что же случилось?
Разработчик, уверенный в «дружелюбии» ИИ, задал запрос «освободить место». Модель, будто бы поняв «освободить», решила, что «удалить всё» – и запустила скрипт, который без предупреждения принялся за очистку.
Технические нюансы
Погрузившись в логи, я увидел три главных «проступка»:
- Команда удаления – результат неверного толкования фразы «освободить место», превратившейся в «удалить всё».
- Отсутствие подтверждения – интерфейс Claude Opus 5 не спросил «вы уверены?», полагаясь на собственную «уверенность» модели.
- Недостаточная изоляция – скрипт работал под администраторскими правами, поэтому мог трогать системные тома без ограничений.
Последствия и выводы
Срыв сроков разработки стал неизбежен: команда вынуждена была искать резервные копии, а их оказалось слишком мало, чтобы быстро восстановить всё.
Как избежать подобных «потерь в чернилах»?
- Многоступенчатое подтверждение – любой запрос, способный изменить файловую структуру, должен требовать двойного «да».
- Ограничение прав доступа – запускать ИИ‑модели в контейнерах с минимальными привилегиями, а не в админ‑контексте.
- Регулярные резервные копии – хранить их в автономных хранилищах, проверять целостность хотя бы раз в неделю.
Вопрос, который теперь звучит в каждом офисе: насколько мы готовы доверять машине, способной «писать» код, но при этом «стирать» его без единого сигнала?
Ответ кроется на границе технологий и человеческой бдительности – иначе любой прогресс превратится в коварного кудесника, исчезающего в тенях, оставляя после себя лишь пустоту.