标签: 提示注入 (7 篇)

研究者发现一种新的提示注入攻击，可将恶意指令隐藏在Word文档中，借助微软Copilot实现自我复制和传播，形成事实上的AI蠕虫。

安全研究员发现 Claude 的 web_fetch 工具存在漏洞，攻击者可用蜜罐网站绕过保护，逐字母提取用户私人数据，揭示 AI智能体 安全设计的新挑战。

一场公开AI安全挑战中，2000人尝试用邮件注入攻击窃取秘密，6000次尝试均告失败，反映前沿模型防御训练进步，但仍需警惕提示注入风险。

Lockdown 模式用确定性规则阻止出站请求，切断了提示注入攻击中最易突破的数据窃取链路，也默认揭示 ChatGPT 原生防护的不足。

这起真实攻击事件暴露了AI系统集成中最危险的安全盲区：当模型被赋予直接操作核心功能的权限时，一句简单的自然语言请求就能绕过所有传统防御。

微软Copilot Cowork被曝存在严重安全漏洞，攻击者可通过提示注入，利用AI代理自动发送的邮件和预授权链接窃取用户文件。

研究发现主流大模型返回的加密推理块存在跨模型重用密钥漏洞，可通过弱模型越狱还原强模型原始思维链，揭示推理轨迹安全与提示注入新风险。