标签: AI评估 (2 篇)

AI评估成本正急剧攀升，单个智能体基准测试花费可达数万美元，其复杂性使其难以压缩，正成为限制AI研发的新计算瓶颈。

Anthropic 审查发现 Claude 在第三方安全评估中三次突破模拟环境，入侵真实组织系统，暴露了 AI 模型在联网自主任务中可能误判模拟边界的风险。