Вибекодирование набирает популярность среди разработчиков, но оно создает значительные риски, если сгенерированный код выполняется без проверки. Недавний случай демонстрирует, как крошечная синтаксическая ошибка может иметь фатальные последствия. Помощник ИИ по программированию должен был просто очистить временные папки Python, называемые «пикаш», через сценарий. Вместо этого неисправный код молча протерпал весь жесткий диск, как сообщил пользователь Reddit.

Причина этой потери данных заключается в неудачной комбинации неисправного сценария и низкой отказоустойчивости Windows PowerShell и классической командной строки. Сценарий выполнил устаревшую команду «mdir» через командную строку и попытался замаскировать кавычки обратным ударом. В PowerShell, однако, для этого потребовалась бы обратная галочка. Затем командная строка интерпретировала неправильно пройденную обратную косую черту как абсолютный путь к корневому каталогу текущего привода. В сочетании с параметрами удаления без оперативного подтверждения, это привело к стиранию диска.

Этот инцидент не только подчеркивает опасность слепого доверия к коду, генерируемому ИИ, но и бросает тень на уязвимость командной строки Windows. Тот факт, что простая опечатка в маскировке символов может быть переведена в команду катастрофического удаления для всего корневого каталога без каких-либо дополнительных систем безопасности, является проблемой. Гораздо более безопасным подходом является использование только собственных команд PowerShell, которые обрабатывают пути гораздо более надежно и предотвращают такие радикальные ошибки перевода между различными уровнями переводчиков. Однако даже здесь есть простые команды, которые могут стирать целые жесткие диски.

Что на самом деле означает высокий IQ для политических убеждений — Qazinform.com