When Trust Can't Be Verified
What Arms Control Teaches About Verification
2026年9月,Amodei 提议在防范AI助力生物武器研发这一议题上,与中国寻求范围有限的协调,理由是这种危险对双方都构成威胁。1 但即便各国政府就这一禁令达成一致,紧接着就会撞上第二个问题:双方如何判断对方是否在履约?
军控史说明,核查是一套制度,而不是附在条约后面的一句承诺。一项关于未来AI条约的学术研究把核核查描述为一个逐步搭建的过程:禁核试安排之后,是《不扩散核武器条约》下的核材料衡算,再往后,随着技术和政治互信的成熟,才出现侵入性更强的现场视察制度。2 国际原子能机构的保障监督,靠的是申报核材料追踪加实地视察这两条腿。3 这些机制提供的是部分核查,而非全知全能。
下图把核核查的逐步搭建与生物核查的崩盘放在一起对照,说明核查程序只有当“可进入”与“能获得有用信息”这两点同时成立时,才谈得上有可信度。
flowchart LR
subgraph N["核核查的逐步搭建"]
direction TB
N1["禁核试时代"] --> N2["核材料衡算"] --> N3["现场视察"]
end
subgraph B["生物核查的崩盘"]
direction TB
B1["议定书谈判"] --> B2["美国认定草案侵入性过强且效力太弱"] --> B3["核查议定书不了了之"]
end
图:核核查是靠一套套制度累积起来的;生物议定书谈判则在美国认定草案“侵入性过强、又效力太弱”之后终结。
《禁止生物武器公约》提供的就是这个反面参照。为该公约补充一份核查议定书的谈判最终破裂,原因正是美国认为草案两头不讨好:一方面侵入性过强,可能暴露敏感研究和商业秘密;另一方面又太弱,无法可靠地认定违约行为。45 直到今天,这份公约仍然没有核查机制。各方都反对生物武器,这并不足以解决一个更具体的问题:核查人员能看什么,他们看到的东西又能证明什么。
“信任,但要核查”这句话背后,正是这种张力。6 开放更多权限,信心可以提升,但泄露正当秘密的风险也随之上升;权限收得更紧,秘密是保住了,藏东西却也更容易。一套可行的核查制度必须回答几个问题:参与方要申报什么、要留存哪些记录、什么时候允许外部进入、发现可疑情况后又该如何处置。有选择性的视察,不能被诚实地包装成能抓住每一次违约。
这里的分寸很关键。核保障监督的存在,并不能证明AI协议可以照搬核机构;生物核查的失败,也不能证明AI核查根本不可能。这种类比真正提供的,是一个诊断性问题:一项提案有没有把政治共识转化为具体程序,而这些程序既能产出有用的证据,又不会要求参与方开放他们几乎必然拒绝的权限?
References
Quizzes
Which approach best fits the page's judgement about a credible verification regime?
- Agreed procedures that yield useful evidence within accepted access limits
- Inspection systems that prioritize near-complete detection over negotiated limits
- Political trust backed by penalties, with few detailed checking procedures
- Broad inspector access even when legitimate secrets may be exposed
Agreement language does not create confidence by itself. Declarations, records, access, and responses to evidence must be designed.
The nuclear and biological cases together suggest that verification must balance useful access against secrecy and intrusiveness concerns.
- True
- False
Nuclear regimes added verification layers, while biological protocol talks collapsed partly because the proposed access was considered intrusive yet inconclusive.
Comments
No comments yet. Start the conversation.