标签: AI治理 (5 篇)

Anthropic 披露通过宪法训练、系统提示和评测数据集确保 Claude 不偏袒任何政治立场，同时用策略与监测防止滥用，凸显 AI 公司从技术商向信息治理者的跃迁。

Anthropic对5万美国人的调查显示：多数人希望AI治愈疾病，但更担忧失业和认知依赖，且仅15%信任AI公司。

KPMG与Anthropic达成全球战略联盟，将Claude深度集成到其核心业务平台和全部27.6万名员工的工作流程中，标志着专业服务巨头对AI的全面押注。

Anthropic正与宗教、哲学等领域的思想家对话，探讨如何为AI塑造“良好品格”，并已将相关思考（如“道德形成”和“安全他者”工具）融入Claude的训练实验中。

Anthropic详细披露美国政府指令细节，辩解称Fable 5的安全防护远超以往模型，并质疑禁令基于一个并非通用的越狱手段。