10万美元的「反直觉」提示词:Claude如何被哄着挖出密码学漏洞
Anthropic用Claude Mythos发现HAWK和弱化AES的数学缺陷,但关键不是模型多强,而是研究员用粗糙但坚定的提示词推动它坚持60小时不放弃,挑战‘不可能’,这次实验重新定义了提示工程的价值。
Simon Willison ·
Anthropic用Claude Mythos发现HAWK和弱化AES的数学缺陷,但关键不是模型多强,而是研究员用粗糙但坚定的提示词推动它坚持60小时不放弃,挑战‘不可能’,这次实验重新定义了提示工程的价值。