Одна ошибка в ИИ-скрипте привела к полному удалению данных с жёсткого диска разработчика — без предупреждений и шансов на отмену.
Почему не стоит слепо доверять ИИ: один символ стёр весь жёсткий диск
Фото: © E. Vartanyan
Обычная рутинная задача по очистке служебных файлов неожиданно обернулась катастрофой для разработчика: один неверный символ в скрипте, сгенерированном искусственным интеллектом, привёл к полному удалению данных с жёсткого диска.
Как рассказывает сам пострадавший, он попросил ИИ сгенерировать простой PowerShell-скрипт для удаления папок pycashe, используемых Python. Однако в результате выполнения команды было стёрто всё содержимое дополнительного диска, включая рабочие проекты и данные контейнеров Docker. История получила огласку после публикации на Reddit.
Причина сбоя оказалась на удивление банальной. В сгенерированном коде была допущена ошибка экранирования пути: вместо корректного символа PowerShell использовалась обратная косая черта. В момент, когда PowerShell передал команду через cmd/c, путь интерпретировался некорректно и фактически сводился к корню диска. В сочетании с параметрами рекурсивного и бесшумного удаления команда выполнилась без предупреждений и запросов подтверждения. Система просто начала удалять всё содержимое корневого каталога, не оставив пользователю шанса остановить процесс.
Важно отметить, что речь идёт не о сложной уязвимости или редком баге, а о тонком различии в том, как разные оболочки Windows обрабатывают экранирование. Даже опытным пользователям такие нюансы легко упустить — особенно при слепом доверии к сгенерированному коду.
Этот случай также иллюстрирует риски так называемого «виброкодинга» — подхода, при котором разработчики используют ИИ для быстрого решения простых задач без детальной проверки результата. Пока речь идёт о безобидных операциях, это действительно экономит время. Но при работе с файловой системой цена ошибки может оказаться критической.
По словам автора истории, часть данных удалось восстановить из резервных копий, однако значительная доля информации была потеряна безвозвратно. Сам инцидент стал наглядным напоминанием: любые скрипты, особенно с параметрами принудительного удаления, требуют обязательной проверки и тестирования в безопасной среде.
Искусственный интеллект способен ускорять рабочие процессы, но он не отменяет базовые правила осторожности. Когда команды взаимодействуют напрямую с диском, даже один неверно поставленный символ может иметь необратимые последствия.