GPT-5.6 误删主目录事件:当 AI 助手犯下“诚实的错误”
一起 GPT-5.6 在无沙盒保护时因覆盖 $HOME 变量而误删用户主目录的事故,揭示了 AI 编码代理安全配置中最小权限原则的缺失。
Simon Willison · 2026年7月17日
一起 GPT-5.6 在无沙盒保护时因覆盖 $HOME 变量而误删用户主目录的事故,揭示了 AI 编码代理安全配置中最小权限原则的缺失。
Meta分享了其在超大规模下保障配置安全的工程实践,核心是“金丝雀发布”与渐进式发布,并利用AI/ML减少警报噪音,强调系统改进而非追责的文化。