当你在对话框里敲下一个问题，Claude 决定回答还是拒绝，或者选择直白还是委婉，这些并不是随机的。在模型训练阶段，一套关于有用与无害的优先级就已经被植入进去了。Anthropic 把这套设定模型行为底线的方法叫做 Constitutional AI（宪法 AI）。
让 AI 自己盯自己
过去，训练一个无害的 AI 助手，通常需要大量的人力去给数据打标签，标注出哪些回答是有害的、不合适的。但模型能力在变强，这种纯人工审核的瓶颈越来越明显。Anthropic 的思路发生了转变：让能力变强的 AI 系统来协助监督其他的 AI。
在他们的实验里，人类不再需要逐条去识别有害输出。人类监督的角色被压缩成了一份规则列表，也就是所谓的“宪法”。模型拿到这份宪法后，会根据规则对自己的输出进行评估和修改，完成自我改进。这就把人类从低效的标注工作中解放出来，转而专注于制定和优化规则本身，依靠系统设定的原则来约束模型行为。
把规则的起草权分出去
不过，只靠实验室里的工程师拍脑袋写规则，很容易让模型带上小圈子的偏见。如果 AI 最终要面向大众服务，它的行为准则理应反映更多人的价值观。
为此，Anthropic 找了 Collective Intelligence Project 合作，搞了一次公众意见征集。他们让大约 1000 名美国人参与到一份 AI 系统宪法的起草中。这个动作的意图很明确：把公众输入作为对齐语言模型的依据。通过这种方式，Anthropic 试图让 Claude 在“有用、无害、诚实”这三个经常打架的目标之间，找到更贴近大众认知的平衡点。
可追溯的规则框架
Constitutional AI 的核心价值，不在于能把模型训练得绝对善良——这也不现实。它真正提供的是一套可追溯、可迭代的规则框架。
以前的黑盒模型一旦出现行为偏差，开发者往往要在海量训练数据里大海捞针，寻找引发问题的样本。而现在，当 Claude 的表现偏离预期，开发者可以直接回头去查阅“宪法”，修改或增删某条原则。与其在无数条训练数据里寻找一根刺，不如直接在规则表上做手术。规则变了，模型的自我改进方向也会随之调整。这种把价值观显性化、规则化的做法，至少让 AI 的行为约束变得有迹可循。
