要点
- 呼吁对两类自主武器实施管控：行动“不可预测”的武器，以及以人类为目标的武器
- 人工智能的进步可能削弱人类对致命武力使用的控制
- 敦促各国就具有法律约束力的协议展开谈判
此次呼吁的时机反映出人们的担忧日益加剧：在日益强大的人工智能技术推动下，越来越先进的武器正以越来越快的速度和更大的规模被制造和部署。裁军专家指出，就连军火制造商也希望相关法律问题能得到明确。
联合国秘书长古特雷斯在与红十字国际委员会主席埃格发表的联合呼吁中表示:“我们现在正危险地接近跨越一条道德红线：机器对人类的自主锁定。”
根据国际人道法，在冲突中袭击平民和平民基础设施早已被严格禁止，但在冲突地区辨别谁是非战斗人员往往极其困难。人们担心，在不断变化的局势下，无法区分非战斗人员的机器将做出关乎生死的决定。
法律与伦理原则
在日内瓦，联合国日内瓦裁军事务负责人雷金巴尔呼应了这些担忧，她强调联合国秘书长长期以来的立场：那些在没有人类控制和判断的情况下选择或攻击目标并夺取人命的系统，“在政治上不可接受，在道德上令人反感，并应根据国际法予以禁止”。
同样在日内瓦，红十字国际委员会的吉塞尔描述道，冲突“并非关于精准、区分与克制的叙事，而是关于平民丧生、家庭流离失所、医院、学校和住宅以越来越快的速度和越来越大的规模被摧毁的叙事”。
身为红十字国际委员会武器与敌对行动科科长的吉塞尔解释道，在这种情况下，“局势可能瞬息万变。一名战斗人员可能投降或负伤，从而应受到攻击保护；平民可能进入自主武器系统的作战区域；武器也可能遭遇无法预见的状况。”
古特雷斯和埃格在呼吁中指出，自主武器“并非遥远未来之事”，因为向更高自主性发展的竞赛已经展开。他们还指出，开发此类系统的科学家和工程师也对相关风险表达了担忧。
敦促各国采取行动
联合国和红十字国际委员会现正敦促各国政府超越讨论阶段，就制定一项具有法律约束力的文书展开谈判，以确立明确的禁止和限制条款。
他们表示，“各国必须展现政治勇气，超越渐进式的讨论，采取果断行动，”并警告称，若不采取行动，可能会给后代留下一个针对致命决策追究责任将变得越来越困难的世界。
此次呼吁发布于《特定常规武器公约》第七次审议大会之前，该会议定于11月在日内瓦举行。联合国和红十字会的领导人将此次会议描述为各国就推进具有法律约束力的文书谈判达成共识的最明确途径。
他们表示，通过联合国大会和《特定常规武器公约》政府专家组的讨论，已经为达成协议奠定了重要基础，其中包括在界定确保遵守国际人道法所需的人类判断和控制方面取得的进展。
联合国和红十字国际委员会于2023年首次发布联合呼吁，呼吁各国在2026年前就一项具有法律约束力的文书展开谈判。他们在最初的声明中强调，必须保留人类对生死决策的控制权，并且根据国际法，应禁止任何无需人类参与即可夺取生命的机器。
周二发布的呼吁再次推动了这一以截止日期为导向的进程，强调近年来付出的艰辛努力现在必须转化为实际行动。
两位领导人表示：“我们敦促各国抓住这一时机，创新必须服务于人类——而不是危及人类。”
该联合呼吁要求禁止两类自主武器：
- 不可预测的自主武器：即无论是在设计阶段还是使用过程中，操作者都无法预测或预见使用武力所导致后果的武器。红十字国际委员会的吉塞尔问道。“如果无法预测，又如何加以限制？”
- 反人员武器：尽管所有国家都承认，由于对武力使用的控制较少，自主武器总体上会引发伦理问题，但红十字国际委员会专家强调，最令人担忧的是那些蓄意以人类为目标的武器，“因为这将人的生命简化为数据、算法、传感器和机器操作”。