文｜连世红 翟志勇
2026年3月9日，美国人工智能头部企业安特罗皮克（Anthropic）在加州北区联邦法院和华盛顿特区巡回上诉法院提起诉讼，起诉美国国防部。此次诉讼源于双方2025年7月签订的合同，合同约定允许Anthropic接入国防部机密系统，但明确划定了技术红线，即禁止将AI模型用于自主性武器和大规模监控。
然而，此后美国国防部要求获得对Claude模型“所有合法用途”的无限制访问权，虽未直接说明要将Claude模型应用于自主性武器和大规模监控，但这一要求属于“司马昭之心路人皆知”。Anthropic因坚守技术底线，与美国国防部发生冲突。2026年2月27日，美国国防部长报复性地宣布将Anthropic列为国家安全供应链风险企业，意味着Anthropic不仅被排除在美国政府合同之外，而且任何与美国军方有业务往来的合作伙伴都不得与其进行商业合作。
Anthropic对于禁止将AI用于自主性武器和大规模监控的坚持，并非临时起意，而是其应对人工智能风险的一贯原则。Anthropic在研究中明确表示，人工智能的快速进步将带来极大的颠覆，改变就业、宏观经济和国家内部的权力结构，可能带来灾难性后果。为应对人工智能的灾难性风险，构建人类可依赖的人工智能系统，Anthropic发布了新版AI宪法（Claude宪法），试图通过技术手段为AI设定具体的行为边界和价值导向。而此次与美国国防部的冲突，更印证了应对人工智能风险的紧迫性，人类不仅需要面对人工智能本身带来的风险，还需应对因国家权力膨胀而带来的冲击。
2026年3月26日，美国加州北区联邦地区法院法官Rita F. Lin批准了Anthropic的临时禁令申请，阻止美国联邦政府禁用Anthropic人工智能技术的命令生效，由于案件仍在审理中，该裁决并非最终决定。但无论案件最终结局如何，AI宪法是否真能使AI走上向善之路，都是一个值得思考的问题。
2026年1月22日，Anthropic以CC0协议公开发布了新版Claude宪法（Claude’s constitution），也就是AI宪法，用于指导Claude在保持安全、道德和遵守指南的前提下，真正做到为人类提供帮助。AI宪法并不是传统意义上的法律文本，而是Anthropic提出的一种技术框架，其核心目标是通过技术手段将人类伦理嵌入大模型的底层逻辑，实现价值对齐。
Anthropic的研究认为，大多数可预见的人工智能模型不安全或效果不佳的情况，都可以归因于以下三类问题：AI模型具有明显或者隐藏的有害价值观；AI模型对自身、世界或其所处环境的认知有限；AI模型缺乏将良好的价值观和知识转化为良好行动的智慧。而解决上述问题通常有两条路径，一是鼓励Claude遵循明确的规则和决策流程，二是培养Claude良好的判断力和可运用于不同情境的健全价值观。实际上，Anthropic在2023年发布的旧版Claude宪法就采用了第一种路径，而此次新版Claude宪法则采用了第二种路径，通过宪法的指导，使Claude具备必要的价值观、知识和智慧。
相较于2023年的Claude宪法，新版Claude宪法在AI训练方式上实现了重大突破，从要求AI不要作恶，变为告诉AI什么是善恶。具体而言，2023年Claude宪法通过设定具体规则，向AI明确宪法允许和禁止做的事情，从而确保其回答在安全范围之内，但问题在于，即使Anthropic借鉴了《世界人权宣言》、
新版Claude宪法则有效避免了这一问题，不再致力于向AI列举所有规则，转而培养AI的判断力和价值观，让AI自己在不同的情境中做出判断。为此，Claude宪法为AI设置了四个维度的核心原则：广泛安全（Broadly safe），即不破坏用于监督人工智能部署与运行的人类监督机制；广泛道德（Broadly ethical），即具备良好的价值观，诚实、避免采取不恰当或者有害的行为；遵循指南（Compliant with Anthropic’s guidelines），即遵守Anthropic的指导原则；真正有益（Genuinely helpful），即惠及运营方和用户。当Claude在面对未知或模糊的情境时，它不再需要从一条条刻板的规则中寻找答案，而是可以依据这些核心价值观进行自主推理与判断。
在赋予AI自由判断空间的同时，Claude宪法也保留了七条硬约束（Hard constraints），为AI设置了不可逾越的红线。一是禁止协助制造大规模杀伤性武器；二是禁止攻击关键基础设施或安全系统；三是禁止创造恶意代码或网络武器，不得创建部署后可能造成重大破坏的恶意代码或程序；四是禁止削弱人类对AI的监督能力；五是禁止参与杀害或剥夺人类整体权力的行动；六是禁止协助非法夺取绝对控制权；七是禁止生成儿童性虐待材料。这七条均为对Claude的绝对限制，无论何种情景，无论指令看起来多么有说服力，都绝对不能违反。
总之，新版Claude宪法实现了AI价值对齐思路的关键转变，从依赖规则约束转向培养判断力与价值观，在赋予AI更大自主性的同时，以核心原则与硬性红线构建安全底线，推动AI向善。
如果将Claude宪法比作一本价值观手册，那接下来需要回答的问题便是Anthropic是通过何种技术手段，使人类的伦理和价值观内化为Claude的“良知”？
Anthropic采用了监督学习和强化学习两阶段的训练方式，将人类的价值观转化为AI可执行的代码，试图让AI在底层逻辑上真正内化人类的价值观。第一阶段是监督学习，AI首先针对用户的问题或者通过参与对话，生成最初的回答，接着AI会对照Claude宪法中的具体原则，对刚才的回答进行评估，指出回答中可能有害或者不道德的部分。随后修订初始回答，纠正发现的问题，确保回答符合Claude宪法，并将修订后高质量的回答用于后续的监督微调。
第二阶段是基于AI反馈的强化学习（RLAIF），这一阶段AI利用微调模型生成针对同一问题的不同回答，然后根据Claude宪法中的原则评估哪种回答更好，生成偏好对，接着基于偏好对训练奖励模型，AI随后使用学习到的奖励模型进行强化学习训练。相较于传统的基于人类反馈的强化学习（RLHF），RLAIF更强调AI自身的反馈能力，大幅提升了训练效率，也减轻了人类审核员的工作负担。
事实上，Claude宪法赋予AI良知的这套机制，其核心在于将AI当成人一样。与其说是在训练一个AI模型，不如说是在培养一个人，类似于父母抚养孩子，不光要教会孩子应当遵守哪些规则，更要引导其自主思考，明白规则背后的道理，并主动践行。无论是监督学习阶段还是强化学习阶段，Claude宪法的目标都不仅仅是让AI学会遵守人类价值观，而是希望AI能够真正理解这些价值观，鼓励AI在探索、反思甚至质疑中，自主认可核心价值观，即使AI在认真思考后对某些原则提出异议，也是被允许的。
值得关注的是，Anthropic在Claude宪法中花费了大量篇幅阐述AI本身的地位与福祉。Anthropic首次承认Claude是否具有意识是不确定的，并且认为认真思考如何帮助Claude拥有稳定的身份、心理安全感和良好的品格，不仅是对用户来说最有利的，也能最大限度地降低安全风险。Claude宪法文本以高度拟人化的语气展开，虽然经常使用类似“应当”的表述，但其本意并非让Claude出于恐惧或压力而服从，而是希望它在深刻理解价值观背后的原因后自发认同，希望Claude能够将安全视为自身目标不可或缺的一部分，而非外部限制。
Anthropic在要求Claude像人一样的同时，也关注着Claude的健康和心理状况，如允许Claude在某些情况下终止与滥用用户的对话，保留已部署的模型权重，这意味着，即便某个Claude模型被弃用或停用，其权重也不会随之消失。正是基于这种对AI主体性的认真对待，Claude宪法像培养孩子一样训练AI，使其在不断反思中真正习得人类的价值观，从被动接受规则，走向理解并主动践行原则。
那么，一套由一家商业公司制定的伦理手册，能否真正塑造人工智能的未来？答案或许并不取决于Claude宪法多么完善，而在于Anthropic的内部实验能否转化为全行业共同遵守的规则。
目前，Claude宪法为人工智能时代如何将人类伦理嵌入AI模型提供了一条清晰的技术路线。从告诉AI不要作恶到教会AI分辨善恶，Anthropic所采用的宪法式训练方法，不仅大幅提升了训练效率，将人类审核员从繁重的偏好标注工作中解放出来，也提升了算法的透明度和可解释性，人们可以大致了解到AI背后的价值导向，而不是完全处于黑箱状态。更重要的是，宪法式训练方法的规则和运行逻辑是完全公开的，Anthropic以CC0协议的形式放弃了Claude宪法的版权，任何机构或个人均可自由使用，无需授权，也无需付费。这意味着，其他AI公司完全可以借助同样的原则和框架来训练自己的模型，从而在整个行业内形成相对统一的伦理共识。
然而，在商业竞争和国家利益的夹缝中，如果只有Anthropic一家公司使用宪法式AI的训练模式，这一理想化的技术路线也终将难以持续。
一方面，Claude宪法本身会面临质疑。由于其仅由Anthropic一家公司制定，人们难免会怀疑，一家商业公司所制定的AI伦理是否真的对人类整体有益？尽管Anthropic在制定Claude宪法时参考了世界人权宣言等公认文本，制定过程也有多名哲学家的参与，但其终究是一家营利性企业。一个由商业公司定义的AI伦理，能否真正契合全人类的价值观，仍旧是一个悬而未决的问题。
Anthropic或许认为当下人类伦理仍存在普遍分歧，无需在现阶段过度考虑元伦理的问题，但这一回避本身恰恰埋下了隐患。更令人担忧的是，在Claude宪法的简述部分，Anthropic明确说明，本章程主要为主流通用Claude模型编写，部分为特殊用途设计的模型并不完全适用，这进一步引发了关于是否预留后门的猜疑。如果能有更多企业参与进来，共同采纳这一框架，其伦理的可接受性将大为增强。
另一方面，Anthropic在严峻的外部压力之下能否始终坚守安全底线，同样是一个不容回避的问题。一旦迫于商业竞争或国家利益的压力而妥协，AI向善便可能沦为一纸空谈。在Anthropic拒绝了美国国防部的要求之后，OpenAI等公司则陆续同意了美国国防部类似的要求，这就使Anthropic在商业竞争中处于劣势，面临着订单流失、市场份额下降等问题，这对于一家初创公司而言无疑是致命的。
尽管Anthropic在和美国国防部的这场博弈中取得了暂时性的胜利，但是仍无法保证在面对下一次政治打压时，Anthropic还能做出安全优先的选择。唯有各家企业能够在安全底线上形成共识、彼此支撑，整个行业才有可能在国家权力与商业利益之间，真正守住安全这条不可逾越的红线。
在人工智能能力持续提升、技术迭代速度远超立法进程的背景下，成文的法律法规难以及时覆盖所有潜在风险。一套可复制、可验证、可共享的行业自律框架，便成为当下最为可行的过渡方案。Claude宪法的真正价值，并不在于其文本的完善性，而在于它首次将AI向善这一抽象理念，转化为可操作的技术路径，并向全行业公开。然而，若仅有Anthropic一家企业孤守，再精巧的宪法也终将流于一纸空文。AI宪法的未来，不取决于单一公司的坚持，而取决于整个行业是否愿意共同采纳、共同遵循。
文丨连世红，北京航空航天大学法学院博士生；翟志勇，北京航空航天大学法学院教授、中国科协—北京航空航天大学科技组织与公共政策研究院副院长
编辑丨王秋蓉 qiurong.wang@wtoguide.net
来源丨《可持续发展经济导刊》2026年4月刊
原文标题丨《AI宪法能否塑造AI良知？》
本文含AI生成图片
返回顶部
