人工智能已经成为全球增长最快的前沿技术领域之一。联合国贸发会议预计，全球人工智能市场规模将从2023年的1890亿美元飙升至2033年的4.8万亿美元：十年增长25倍。
另据世界知识产权组织今年发布的最新专利数据，人工智能的技术演进也越来越快：2024年，生成式人工智能的专利数量为约1万9000项，但2025年飙升至近3万8000项，一年内几乎翻倍，增速远高于2014年以来约43%的长期年均增长率。
在十月底于纽约总部举行的一场记者会上，联合国裁军研究所所长罗宾·盖斯（Robin Geiss）对人工智能和自主技术早已广泛融入军事领域这一事实表达了担忧。
他说：“我们正目睹一场前所未有的技术变革，其规模之大，速度之快，是我们从未经历过的，而且我们并不总是能确定所有的‘红线‘究竟在哪里。”
联合国裁军研究所所长罗宾·盖斯（Robin Geiss）。
人工智能军事化
根据斯德哥尔摩国际和平研究所2026年发布的数据，2025年全球军费开支达到创纪录的2.887万亿美元，连续第11年增长。其中，美国、中国、俄罗斯、德国和印度五国合计占全球军费总额的58%。
与此同时，越来越多的国家正将人工智能、无人系统、自主平台以及新型指挥控制能力纳入国防现代化计划。军费增长与人工智能军事化发展相互促进，推动战争方式发生深刻变化。
裁军研究所所长盖斯指出：“少数国家和企业正在以传统军控框架无法应对的方式，塑造人工智能领域的安全格局，这种影响将深刻波及地球上所有其他国家的安全。“
由于人工智能和自主技术已经融入到侦查、情报收集与分析、目标识别、无人机、网络攻击、信息作战等领域，军事决策周期正不断压缩，逐渐降至机器的速度，人类判断的余地正日益缩小，甚至包括在核领域。
而不透明的系统增加了出错、误判和事态升级的风险。
“机器战争”日益临近
盖斯表示：“‘机器战争’正日益临近。摆在人类面前的问题其实是：我们是否要允许机器锁定并杀害人类？为此，秘书长古特雷斯早已多次警告，我们正危险地接近跨越这条道德红线。“
人工智能能力的扩散，则意味着开展高度复杂行动的门槛正在降低，这甚至可能使非国家行为体在人工智能的支持下参与此类复杂行动。
盖斯指出：“尽管存在这一切的动态与风险，至少在很长一段时间内，无论是联合国内部还是外部，人们都对正视这一问题——这或许是人工智能对世界日益增长的影响中最尖锐的一面——表现出了相当大的抗拒。“
多年来，秘书长古特雷斯一再呼吁加强对军事人工智能的监管，并制定一项关于致命自主武器系统的具有法律约束力的条约，这些呼吁在国际社会中正日益引起共鸣。目前，《特定常规武器公约》框架下的政府专家组仍在就致命自主武器问题进行谈判。
这里需要指出的是，在军事决策与行动中应用人工智能，是一个范围更广、更复杂且更具普遍性的问题，致命自主武器系统只是冰山一角。
人工智能、和平与安全卓越中心及其三项倡议
正是在这一背景下，联合国裁军研究所今年6月正式成立了“人工智能、和平与安全卓越中心”。该中心是联合国系统内首个此类常设平台，旨在针对人工智能对国际和平与安全的影响这一核心议题，提出一套连贯的应对方案。
今年十月，该中心公布了三项倡议。
第一项倡议聚焦于产业界的作用，旨在制定一个框架，规范企业在系统设计、训练、数据测试、部署期间及部署后的支持等环节中，依据负责任的行业行为准则作出决策。裁军研究所正在基于国际法和《联合国商业与人权指导原则》制定一套自愿性的负责任实用指南。
第二项倡议旨在解决术语问题。
裁军研究所所长盖斯表示：“各国经常使用‘自主性’、‘安全’或‘安保’等术语，但对其含义的理解和阐释却大相径庭。这种模糊性进而渗透到各国的立场和做法中，阻碍了在国际层面达成共识或建立信任。裁军研究所将制定一份人工智能安全词汇表，既要澄清关键概念，也要厘清迄今仍存在的不同理解。”
“裁军研究所人工智能、和平与安全卓越中心”的第三项倡议旨在应对非国家武装团体滥用人工智能的风险。
最新研究提供了确凿证据，表明恐怖组织和犯罪网络等恶意行为体已将人工智能用于支持行动规划、执行和后勤保障。但尽管潜在风险十分显著，这一问题迄今却很少受到关注。
盖斯就生物安全方面的风险举了一个例子。
他说：“那些非常强大的语言模型可能会被用于揭示生物安全领域中此前根本无法获取的信息。就此而言，虽然距离开发出任何武器化的生物结构或系统还有一段距离，但这无疑是一个非常严峻的隐忧。”
人类是否仍然愿意并能够承担最终责任
过去数十年间，国际社会曾围绕核武器、化学武器、生物武器、地雷和技术炸弹建立起一系列国际规则和禁忌，它们的共同逻辑在于：无论技术如何演进，人类都必须对造成伤害的决定承担最终责任。然而，人工智能正在挑战这一长期形成的认知框架。问题已不仅是某一种武器是否应被禁止，而是当越来越多的军事流程被交由算法处理，当作战节奏不断向“机器速度”靠拢，人类是否会在不知不觉中失去对战争的有效控制。
盖斯坦言，目前围绕人工智能军事应用开展国际合作的前景“极其有限”。但“人工智能在军事领域的紧迫议题，绝不能再被置于阴影之中”。因为未来需要回答的问题或许并不在于机器能做到什么，而在于当机器能够做到越来越多事情的时候，人类是否仍然愿意并能够承担最终责任。
本节目音频不得用于人工智能训练和应用。