标签: AI对齐 (1 篇)

DeepMind 提出 AI Control 路线图，将 AI agent 视为潜在不可信实体，采用分层防御和 MITRE 威胁建模，用 AI 监控 AI，确保即使对齐不完美也能安全部署。