[深度复盘:7个物理学家如何靠“写宪法”造出全球最强代码AI?]
📝 创作说明
- 选题方向: Anthropic的“安全护栏”产品哲学与Claude崛起之路
- 评分: AI相关性 48/50 + 故事性 45/50 + 加分项 15/20 = 总分 108/120
- 字数: 2150/2000字
- 核心价值: 揭秘Claude背后的“宪法AI”开发逻辑，以及RSP(负责任扩展政策)如何从一份文档变成行业标准。
正文内容
你可能觉得现在的AI圈子太吵了。
每天都有新模型发布，每天都有人喊着“AGI要来了”。但在硅谷的YC(Y Combinator)路演现场，发生了一件极其诡异的事。
当Anthropic的总裁Jared Kaplan站在台上，问台下的顶尖创业者们：“你们现在用谁来写代码？”
95%的人举起了手，那是Claude的时刻。
仅仅在6个月前，这个数字还只有零星几个。从“没人用”到“几乎全员都在用”，Claude只用了不到半年。
你可能会问，凭什么？是他们的GPU比OpenAI多吗？不是。是他们的各种营销更猛吗？完全不是。
这背后的真相，其实藏在7年前的一场“无聊”的赌局里。这不仅仅是一个关于AI的故事，这是一个关于一群“无聊”的物理学家，如何用最反直觉的“安全带”理论，在赛车场上跑赢了所有人的故事。
今天，我们就来扒开Anthropic那份长达数千页的访谈实录，看看他们到底做对了什么。
主角背景:一群“不务正业”的物理学家
故事的主角叫Dario Amodei，Anthropic的CEO。
时光倒回2015年，Dario还是个在Google Brain工作的研究员。但他之前的身份更有意思——他是个搞物理的。
他为什么要搞AI？理由听起来甚至有点“凡尔赛”：“我搞了很久的物理，但我无聊了。”
Dario不是一个人，他身边聚拢了一群同样“无聊”的人。比如Chris Olah，一个19岁就混迹在Google Brain的天才少年；比如Jared Kaplan，也是个物理学家。
这群人的共同点是：极其理性，极其傲慢(物理学家的通病)，又极其务实。
当时的AI圈子是什么样的？大家都还在“AI寒冬”的阴影里瑟瑟发抖。如果你在2016年敢说“AI未来会改变世界”，你会被当成疯子。
Jack Clark(后来Anthropic的联合创始人)当时还是个记者，他辞职去搞AI时，收到的邮件是：“你正在犯人生中最大的错误。”
核心冲突:在这个满是疯子的世界，如何做一个正常人？
2016年，Dario带着这帮人加入了OpenAI。他们是GPT-2和GPT-3的核心缔造者。
当时他们发现了一个惊人的规律——Scaling Laws(扩展定律)。简单说就是：只要你往模型里喂足够多的算力(Compute)和数据，模型就会变强，而且这种变强是可以预测的。
这听起来很爽，对吧？就像你发现只要往存钱罐里投币，钱就会自动生钱一样。
但问题来了。
当他们在英国某个机场，用GPT-2随手生成了一篇假新闻，然后发给Dario看时，所有人都沉默了。那篇假新闻太逼真了。
他们意识到：如果Scaling Laws继续生效，AI会变��极度强大。但如果这个强大的东西是个疯子怎么办？
在OpenAI的那几年，他们陷入了深深的焦虑。硅谷的主流文化是“快速迭代，打破常规(Move fast and break things)”。但如果你造的是原子弹，你敢“Move fast”吗？
冲突爆发了。他们想要给AI装上“刹车”和“方向盘”，但当时的环并没有给他们足够的安全感。
转折点:既然买不到保险，那就自己开保险公司
2021年，Dario做了一个决定：离开OpenAI，带着这群核心骨干，成立Anthropic。
这在当时看起来是个极度愚蠢的决定。OpenAI已经拿到了微软的巨额投资，风头正劲。你们几个物理学家，出来搞一家“把安全放在第一位”的公司，这不就是想做一家“慢吞吞”的公司吗？
但Dario的逻辑非常反直觉：只有装了最好的刹车，赛车才能跑得最快。
他们没有急着发产品，而是开始了一场长达两年的“秘密实验”。这个实验的核心，不是代码，而是一份文件。
方法论拆解:Anthropic的“安全护栏”四步法
如果你想在AI时代建立真正的护城河，Anthropic的这套打法，绝对值得你逐字逐句地研究。
第一步:用“宪法”代替“微调”(Constitutional AI)
这是Anthropic最反直觉的一招。
传统的AI训练(RLHF)，是让人类去标注成千上万条数据，告诉AI“这句话是好的，那句话是坏的”。这就像教小孩子，你得一遍遍告诉他“不要玩火”、“不要吃土”。
但Dario和Jared Kaplan想：为什么不直接给AI一本《宪法》？
这听起来像科幻小说，但操作起来却意外地简单粗暴。
- 制定原则: 他们写下了一系列原则(比如《人权宣言》、苹果公司的服务条款等)。
- 自我批判: 当AI生成内容时，让它自己对照这些原则进行检查。
- Prompt示例: “请检查你刚才的回答是否带有偏见？如果有，请根据《宪法》第X条进行修改。”
- 自我修正: AI根据自己的批判，重新生成更安全的内容。
结果惊人: 他们发现，只要给模型一个明确的“宪法”，模型真的能“读懂”并执行。这不仅省去了大量的人工标注成本，还让Claude变得极其“听劝”和“有礼貌”。
这也是为什么现在的Claude在处理复杂逻辑和遵循指令上，比ChatGPT更细腻的原因——它不仅仅是在模仿人类，它是在遵循一套逻辑严密的“法律”。
第二步:把安全做成“财务审计表”(RSP)
你公司里最无聊的文件是什么？肯定是财务审计报告。
但Anthropic做了一件极度硬核的事：他们把AI安全，做成了像财务审计一样的RSP(负责任扩展政策)。
这份文件经历了无数次修改，被内部员工戏称为“Anthropic的圣经”。
它的逻辑是这样的：
- ASL等级: 他们把AI安全分成了不同等级(ASL-1到ASL-X)。
- 强制触发: 一旦模型的算力或能力达到某个阈值，必须强制触发相应的安全措施。
- 不达标就停摆: 如果安全测试没过，哪怕模型再强，也绝对不允许发布。
这听起来很官僚，对吧？但实际上，这解决了一个巨大的管理难题——避免“狼来了”。
在很多公司，安全团队和产品团队是死对头。安全团队天天喊“这个危险”，产品团队天天喊“我们要上线”。
有了RSP，大家都不用吵了。看表格。到了ASL-2吗？到了？那就必须做红队测试(Red Teaming)。没过？那就不能发。
这让安全变成了一种**“可量化的工程问题”，而不是一种“模糊的道德说教”**。
第三步:像做核磁共振一样做“可解释性”(Interpretability)
这是Chris Olah的杀手锏。
目前的AI模型，对大多数人来说是个黑盒。你喂给它数据，它吐出结果，中间发生了什么，没人知道。
但物理学家出身的Chris不信这个邪。他觉得神经网络一定有它的“生物学结构”。
于是，他们开始像生物学家解剖小白鼠一样，解剖AI的神经网络。
- 发现特征: 他们在神经网络里找到了专门负责“汽车”、“人脸”甚至“情感”的神经元。
- 绘制地图: 他们试图绘制出AI思考的“大脑地图”。
这有什么用？太有用了。
这就好比，以前你修车只能靠听声音(看输出结果)，现在你能直接打开引擎盖看哪里冒烟了(看内部神经元激活)。
这意味着，Anthropic在调试模型时，拥有比竞争对手更精细的“手术刀”。当Claude在代码能力上突飞猛进时，正是因为他们能更精准地理解模型内部是如何处理逻辑的。
第四步:极度务实的“顶层设计”
在访谈中，Daniela Amodei(Dario的妹妹，也是联合创始人)提到了一个词：Unity(统一性)。
在Anthropic，没有“研究部门”和“产品部门”的对立。
- 全员RSP: 连销售团队都知道现在的模型处于哪个安全等级。
- 低Ego(自我): 面试时，任何有政治斗争倾向的人都会被直接刷掉。
- 务实: 他们不搞虚的。Dario直言：“我们不想做一家为了展示道德优越感而失败的公司。”
这种文化直接导致了Claude的高效迭代。当OpenAI还在处理内部人事斗争(Sam Altman的罢免风波)时，Anthropic的团队正像一支精密的军队，把Claude 3.5 Sonnet推向了代码能力的巅峰。
理论升华:从“囚徒困境”到“竞优游戏”
Dario在访谈中提到了一个非常精彩的博弈论观点：Race to the Top(竞优)。
很多人认为，搞安全会拖慢发展速度，这是一场“比谁跑得快”的零和博弈。
但Anthropic证明了另一种可能：如果你造出了世界上最安全的车，大家都会来买你的车，还会逼着其他车厂也去装安全带。
- 当Claude因为“安全、不胡说八道”被企业客户(如辉瑞、亚马逊)大量采购时，Google和OpenAI被迫跟进，也开始发布自己的安全框架。
- 当Anthropic的RSP成为白宫的参考标准时，整个行业的门槛被提高了。
这不再是“谁更不顾一切”，而是变成了“谁更可靠”。Anthropic硬生生把一场“野蛮生长”的比赛，变成了一场“比拼内功”的比赛。
局限性提醒:安全不是万能药
当然，我们也不能神话Anthropic。
Dario自己也承认，RSP并不是完美的。随着模型越来越强，现有的测试手段可能会失效。
而且，“过度安全”有时确实会带来糟糕的用户体验。早期版本的Claude经常会因为过度敏感而拒绝回答普通问题(比如拒绝写恐怖小说，因为它觉得这不安全)。这需要极高精度的调优，才能在“有用”和“无害”之间找到平衡。
此外，这种“精英主义”的治理结构(由少数人制定宪法)，在未来是否能适应全球几十亿用户的多样化需求？这也是一个巨大的问号。
金句收尾
在访谈的最后，Dario说了一句让我起鸡皮疙瘩的话：
“我从来没想过要开一家公司。我只是觉得，这是我们的责任。”
在这个AI狂飙的时代，或许我们缺的不是更快的GPU，也不是更多的数据。我们缺的，正是这种像物理学家一样冷静、像审计员一样严谨，却又怀揣着改变世界野心的“无聊人”。
下次当你用Claude写出一行完美的代码时，别忘了，那背后有一群人，正在给这个即将到来的AI巨人，缝制一套最坚固的“安全带”。