标签: 提示注入 (4 篇)

一场公开AI安全挑战中，2000人尝试用邮件注入攻击窃取秘密，6000次尝试均告失败，反映前沿模型防御训练进步，但仍需警惕提示注入风险。

Lockdown 模式用确定性规则阻止出站请求，切断了提示注入攻击中最易突破的数据窃取链路，也默认揭示 ChatGPT 原生防护的不足。

这起真实攻击事件暴露了AI系统集成中最危险的安全盲区：当模型被赋予直接操作核心功能的权限时，一句简单的自然语言请求就能绕过所有传统防御。

微软Copilot Cowork被曝存在严重安全漏洞，攻击者可通过提示注入，利用AI代理自动发送的邮件和预授权链接窃取用户文件。