
法新社北京消息,中国周三11日向美国政府发出警告,称在军事领域无节制地使用人工智能(AI)可能会让世界陷入电影《终结者》式的末日,即出现机器夺取权力的局面。
法新社表示,目前,美国国内正就人工智能的军事应用展开激烈的伦理辩论。美国总统特朗普领导的政府正与美国新创科技公司 Anthropic 陷入激烈的僵局,并已对其实施制裁。
这家专门从事人工智能研发的公司拒绝按照政府的要求,允许该国军方无限制地使用其技术,特别是拒绝将其技术用于针对人口的大规模监视,或用于可能导致致命后果的攻击与轰炸自动化。
此前据多家媒体报道,Anthropic 的技术模型曾被用于筹备美以联合针对伊朗的攻势,而那次行动随后引发了中东战争。“无限制地推进人工智能军事化,将其作为侵犯他国主权的工具,允许其过度影响战争决策,并让算法掌握人类的生杀大权,这不仅破坏了战争时期的伦理基础和责任,还面临引发技术失控的风险”,中国国防部发言人蒋斌在周三表示。
蒋斌在一份声明中回应关于华盛顿意图给予美军 AI 无限制使用权的问题时强调:“美国电影《终结者》中所描绘的反乌托邦景象,有朝一日可能会变成现实。”
《终结者》(Terminator)于1984年上映,由阿诺德·施瓦辛格(Arnold Schwarzenegger)主演。影片描述了一个末日般的未来:在2029年,由高级人工智能控制的机器人与人类展开了残酷的搏斗。
由于 Anthropic 公司拒绝解除对其 AI 使用权限的限制,美国国防部上周将其列入了五角大楼编制的“供应领域国家安全风险”企业名单。
这一举措强制所有供应商在为政府部门提供服务时,必须立即停止使用 Anthropic 的技术及其生成式人工智能助手 Claude。
报道提及,此举在美国政府部门的 AI 产业中前所未见。Anthropic 自 2024 年底以来,一直向美国国防和民事机构提供其 AI 模型。
Anthropic 强调,五楼大厦的供应链风险认定“在法律上站不住脚”,并可能开创“危险的先例”。该公司表示,计划在法庭上对此认定提出质疑。
此一事件在网络上同样也引发了关于私营科技公司对联邦政府使用其产品拥有多少控制权的辩论。据称,在谈判破裂之前,参议院两党国防领袖都敦促美国国防部和 Anthropic 解决争端。
另据路透社报道援引民主党籍联邦众议员 Sam Liccardo 宣布,将在本周提出国防生产法修正案,以限制联邦机构对“试图限制其技术部署,以降低对美国公民风险”的高风险科技供货商采取报复行动。