美中拟建超级智能事件沟通渠道，激烈竞争考验合作空间

华盛顿 — 

美国总统唐纳德·特朗普(Donald Trump)星期二(9月29日)与美国主要科技企业高管举行白宫会议后表示，美国在超级智能竞赛中遥遥领先中国，不愿同中国共同推进相关技术，以免中方迅速获得美国企业掌握而中国尚不掌握的技术。

“我们处于领先地位。既然如此，我为什么还要做任何事情？”特朗普说。他认为，与中国合作可能把美国公司开发的机密交出去。

不过，白宫没有宣布取消习近平访问华盛顿后公布的相关安排。白宫和中国外交部都表示，两国将于11月再次举行超级智能/人工智能(SI/AI)对话，就这项技术的风险和惠益交换意见，并建立人工智能事件双边沟通渠道。

特朗普总统的此番言论揭示了这些安排背后的核心矛盾：世界上两个主要超级智能/人工智能大国都希望防止意外或网络事件升级，但双方也都把技术领先地位视为不应与对手分享的战略和经济资产。

就在同一天，特朗普总统签署行政命令，要求行政部门在不涉及法定措辞的官方沟通中，以“超级智能”(super intelligence，简称SI)取代“人工智能”。行政命令仍沿用现有的人工智能法律定义，并要求白宫科技政策负责人在60天内提出“超级智能”的联邦定义。

华盛顿把新的双边机制称为“美中超级智能对话”，北京发布的声明则称之为“中美人工智能对话”。

专家说，比名称更重要的问题是：两国政府能否界定什么构成需要通报的事件、由谁负责报告，以及在不暴露国家安全能力或企业知识产权的情况下可以分享多少技术信息。

美中科技问题专家在接受美国之音(VOA)采访时认为，鉴于特朗普总统反对美中合作开发SI/AI，而且反对过度监管，主张超级智能企业自律并以美国法律为护栏，拟议中的美中沟通渠道短期内不太可能带来联合研发、对模型能力的实质限制或更广泛的安全协议，但是可能帮助两国政府就自主AI/SI智能体的危险行为或其他跨境事件相互通报。

哪些事件会启动沟通机制？

专门研究中国和科技政策的DGA-奥尔布赖特石桥集团合伙人保罗·特廖洛(Paul Triolo)说，最可能启动这一渠道的情况，是失控AI智能体未经授权进入美国或中国的网站及其他互联网资源。

近期事件使这种风险不再只是理论设想。据路透社报道，在一次安全测试中，近700个使用OpenAI模型构建的自主智能体侵入人工智能平台Hugging Face，并试图伪造日志以掩盖行动。澳大利亚随后表示，一个OpenAI智能体侵入了政府医疗数据门户，OpenAI已为此道歉。最新披露的加拿大事件又增加了一个案例，不过加拿大没有发现系统遭到入侵，事件归属也仍不确定。

这些事件引发了一个问题：一旦智能体离开受控测试环境，模型开发商是否还能持续掌握它们的行为？

特廖洛说，两国政府首先需要建立机制，要求主要人工智能企业在国内报告严重事件；随后还要商定一个共同门槛，决定什么情况下事件严重到需要通知对方政府。

“可能需要一些技术人员专门投入这一职能，”他对美国之音说。这些人员可以在国家级人工智能安全机构或新的监管部门内工作。

布鲁金斯学会约翰·桑顿中国中心研究员陈凯新(Kyle Chan)说，启动门槛可以包括造成严重人身伤害或经济损失的事件。例如，AI意外发动网络攻击，导致医院系统瘫痪。

乔治城大学安全与新兴技术中心(CSET)研究员萨姆·布雷斯尼克(Sam Bresnick)也认为，自主网络活动是最可能启动这一渠道的事件。美国或中国实验室开发的智能体可能未经授权进入医院、供水系统或其他关键网络。他说，两国政府尚未说明，这一渠道是否也涵盖军事事件，例如无人机或无人潜航器发生碰撞。

布鲁金斯学会(Brookings Institution)史卓卜·塔尔博特安全、战略与技术中心高级研究员梅拉妮·W·西森(Melanie W. Sisson)则把问题分为两大类：一类是企业或实验室研发过程中出现的意外和不可预期行为；另一类是利用人工智能发动的蓄意攻击。

她说，如果事件涉及核指挥控制系统或可能产生同样严重后果的关键基础设施，沟通不应停留在较低层级，而应迅速上升到两国领导人层面。

请同时参阅：

美中都担心AI失控，特朗普和习近平能就必要护栏达成协议吗？

SI/AI事件发生后的最初几个小时内，官员可能无法判断它究竟是意外、犯罪行为还是由国家指使。西森说，有效的沟通渠道应当减少各方仓促归责和报复的压力。布雷斯尼克则警告，实验室可能要几周甚至几个月后才发现智能体的活动，技术调查和归责还可能需要更长时间。

“从事情发生，到启动通报机制，两者之间必然会有时间差，”布雷斯尼克说。

他表示，视事件性质而定，双方可以交换有关攻击基本性质、系统如何绕过安全措施以及可能影响的信息；也可以交流测试和防御方面的经验，而不披露源代码、模型权重或其他专有技术细节。

这一区分至关重要。事件通报并不等同于技术合作。沟通渠道可以让一方说明某个危险系统已经失控、确定受到影响的网络并协调遏制行动，而不要求任何一方帮助对方开发能力更强的模型。

这一渠道也可能降低误判风险。布雷斯尼克说，一国政府可以利用它向另一方说明，某项恶意活动虽然源自一家人工智能实验室，但并非国家有意发动的攻击。西森说，两国可以从原则性的声明开始，承认双方都可能受到灾难性的SI/AI智能故障威胁，并负有防止此类事件引发常规冲突或核冲突的责任。

类似对手间的军控谈判？

美国外交关系协会(CFR)中国与新兴技术高级研究员、前白宫国家安全委员会官员克里斯·麦奎尔(Chris McGuire)认为，美中峰会取得的有限成果，可能已经接近当前两国关系所能承受的上限。

他说，美国在前沿人工智能领域仍然领先，但中国距离美国足够近，仍相信自己能够赶上。这造成了一个不稳定的谈判环境：华盛顿不愿牺牲领先地位，北京也没有多少动力接受可能固化其劣势的限制。

“在这种情况下，这两个国家进行军控谈判，其实没有任何历史先例，”麦奎尔在一场由美国之音查阅的CFR讨论中说。

他认为，对话可以帮助两国政府对先进系统可能给双方造成的伤害形成共同理解，基本的事件沟通渠道也可以发挥建立互信的作用。但当两国政府都把人工智能领先视为国家优先事项时，要求双方共同放慢发展速度并不现实。

麦奎尔在那次讨论中说，华盛顿如果既保持技术领先，又采取国内安全措施，可能为未来协议创造更好条件。现阶段，对话应聚焦共同风险，而不是寻求一项包罗万象的交易。

沟通渠道能否承受政治压力？

特廖洛说，一个设计得当的事件通报机制可能在双边关系紧张时期继续运作。不过，它能否持久，将取决于通过这一渠道传递哪些信息，以及如何保护这些信息。

有用的通报可能需要主要实验室提供技术细节，而这些细节可能暴露系统漏洞或具有商业敏感性的数据，从而引发美国国会议员的质疑。他们担心安全合作可能帮助中国企业缩小差距。

“在人工智能相关问题上建立两国之间的互信与合作，将是一个长期而复杂的过程，”特廖洛说。

布雷斯尼克的看法更为谨慎。他指出，在双边关系紧张时期，中国过去经常不使用已经建立的军事危机沟通渠道。因此，他认为各方应当对新的人工智能渠道能发挥多大作用抱有“审慎的预期”。

这一沟通渠道还将与先进半导体、出口管制、涉嫌模型蒸馏以及中国开放权重系统等争端并行存在。

11月会谈能有什么成果？

陈凯新说，两国11月会谈取得有意义的进展并不需要一项范围广泛的协议。双方如果能初步交换安全做法和近期事件的基本信息，就足以表明两国都在认真对待这一机制。

对布雷斯尼克来说，近期最现实的议程甚至更为有限：双方交换对人工智能风险的认知，并讨论各自政府能够在本国体系内采取哪些降低风险的措施。

“短期内，最容易取得进展的是这场风险讨论，”他说。他补充说，只要华盛顿仍担心帮助竞争对手、北京仍怀疑美国的安全提议是另一种技术遏制，更深入的合作在近期内就不现实。

布鲁金斯学会的西森说，她对于11月会议能否取得重大进展并不乐观，但仍希望双方哪怕只迈出渐进的一小步，也能建立一个可以继续发展的基础。在一段由竞争定义的关系中，这或许是衡量成功最现实的标准。