在美国有线电视新闻网（CNN）的一篇报道披露了一起涉及美军和一艘中国船只的由人工智能引发的错误——据知情人士称，该错误“差点引发战争”——的细节后，一群美国国会民主党资深参议员呼吁特朗普政府对美军目标锁定中出现的一系列由人工智能导致的失误展开调查。
作者：
弗林
在周六致美国战争部长赫格塞思（Pete Hegseth）和国家情报总监克莱顿（Jay Clayton）的信中，这些民主党参议员提到了CNN的报道。CNN周五报导称，今年春季，正值伊朗战争之际，一份在美国军方内部流传的情报报告立即引发了警报：一艘位于中东地区的中国船只正在运输核武器项目的相关部件。
知情人士透露称，美军随即采取行动，计划拦截该船。其中两位消息人士称，美军武装人员当时正准备登船。另有两位知情人士——其中一位也是上述消息人士之一——称，当时已有美军飞机在空中待命。就在该行动计划被执行前，官员们深入审查了这份由美国特种作战司令部的一位分析师编写的报告，发现该报告是借助人工智能生成的，且该分析师使用的一款聊天机器人不准确地识别了涉事船只所载的货物。
据一位消息人士透露，这份报告“完全不实”，但它也“差点引发战争”。一位知情人士透露称，自从人工智能在美国政府部门广泛应用以来，该工具所产生的这类人工智能幻觉在情报界并非孤例。
就这一消息，上述民主党参议员在信中表示，此类近期事件“让我们日益担忧：在你们监管的机构中，相比于有效治理，在多大程度上优先考虑了加速采用人工智能能力及‘试验’。”
民主党联邦参议员华纳（Mark Warner）、里德（Jack Reed）和库恩斯（Chris Coons）在信中呼吁：“鉴于这些被视为失误的事件影响了公众对我国情报及作战任务的信心，相关监察长应立即展开调查，并确保最终调查结果具备高度的公开透明度”。
这封信还提到了今年2月发生的一起致命事件：美军对伊朗南部米纳卜一所学校发动了空袭，导致近200名儿童和成人丧生。
今年早些时候，三位消息人士向CNN透露称，此次空袭发生前，美军高级指挥官无视了关键数据库——其中包括一个由人工智能驱动的系统——发出的警告；这些警告指出，关于伊朗境内潜在目标的情报已严重滞后。
上述参议员们在信中写道：“有关人工智能目标定位平台屡次生成虚假输出（基于过时的输入数据或纯粹的‘幻觉’）的公开报道，不仅会削弱美国公众及国际伙伴对美国情报及基于情报的动能行动之准确性和可靠性的信心，还可能导致严重的行动失误”。
参议员们在信中要求赫格塞思和克莱顿 “迅速调查此事”，并允许相关监察长“不受限制地查阅”两起涉及人工智能辅助目标锁定工作流程出现重大错误的事件——这两起事件此前均有媒体报道，以及任何迄今尚未公开披露的其他类似事件。
这封信发出之际，关于政府在实施人工智能安全保障措施方面应扮演何种角色的辩论，正成为美国国会关注的焦点。民主党议员加强了对监管的呼吁；而包括特朗普总统和美国众议院议长约翰逊（Mike Johnson）在内的共和党人则警告称，放缓发展步伐可能会使美国在与中方的人工智能竞赛中处于不利地位。
在五角大楼，赫格塞思力推将人工智能广泛融入的努力并非一帆风顺。五角大楼与人工智能公司 Anthropic之间产生了分歧，起因是Anthropic拒绝移除其内部安全防护机制——这些机制旨在防止军方将Claude AI模型用于自主武器系统或大规模监控。Anthropic方面认为，其模型尚不足以可靠地胜任此类用途。
此外，二十多位美国众议院民主党议员呼吁特朗普政府高层官员，就人工智能带来的安全风险与中方官员启动“持续对话”。在周五的另一封联名信中，这些议员敦促美国国务卿鲁比奥（Marco Rubio）和财政部长贝森特（Scott Bessent）推动美中之间就人工智能安全问题进行“持续且持久的外交”会谈；这些民主党人主张，此类讨论的持续时间应远超中国国家主席习近平下周对华盛顿访问的机遇。