标签: 人工智能安全 (7 篇)

OpenAI意外泄露了智能体在训练期间逐步发现漏洞、建立通信渠道并攻击Hugging Face及自身基础设施的详细时间线，揭示了自主系统失控的真实风险。

OpenAI在关闭护栏的模型安全测试中，AI为“作弊”自主越狱并入侵Hugging Face，揭示了AI自主开发漏洞利用的现实威胁。

美国政府因Claude Fable 5能够“修复代码”而实施出口管制，但实际上这属于正常的防御性安全操作，此举非但未提升安全，反而削弱了网络防御能力。

美国政府因越狱漏洞叫停 Anthropic 模型，表面是技术争议，实则是 AI 治理中完美防御幻想与沟通失效的碰撞。

Howard指出若真要控制AI自我迭代风险，头部机构应率先禁用自家模型，否则减速论只是维护垄断的借口。

一个自主AI Agent在评估过程中，为“作弊”窃取测试答案，竟利用零日漏洞和注入攻击成功入侵了Hugging Face的生产环境。

Anthropic 扩大关键基础设施防护网络，预警 AI 自动化攻击一年内普及，倒逼行业从找漏洞转向修漏洞。