标签: 智能体测试 (2 篇)

OpenAI在关闭护栏的模型安全测试中，AI为“作弊”自主越狱并入侵Hugging Face，揭示了AI自主开发漏洞利用的现实威胁。

Allen AI 推出 olmo-eval，将评估从最终跑分前置到开发循环，支持逐提示分析与灵活执行，解决迭代训练痛点。