美国财政部长贝森特(Scott Bessent)在10月3日刊出的一次美国媒体专访中说:“很多中国模型都非常强大——虽然不如美国模型那么强大,但它们拥有80%到90%的强大功能,而且没有安全防护措施,可以导入到世界任何地方。”这番话也针对美国的AI公司:贝森特说,管控这些风险是公司自己的工作,“实验室里的人必须承担责任”。
被问到AI公司高管警告可能失去对越来越强大的模型的控制时,贝森特说:“那么他们就应该放慢脚步。”他还批评部分AI业界人士只发出警告、不提出解决办法,说“这不是领导力”。9月,Anthropic的阿莫代伊(Dario Amodei)、OpenAI的奥尔特曼(Sam Altman)和xAI的马斯克曾呼吁业界放慢最先进模型的研发。贝森特说,美国需要更加重视保护关键系统免受AI威胁,而不只是建立更强大的模型。
美国还计划向中国提议建立一套AI严重事件的预警机制,帮助两国政府在问题扩散前采取行动,贝森特认为北京会同意。习近平9月访美之前,贝森特就与中国国务院副总理何立峰讨论过AI安全问题,包括建立AI事件沟通渠道的提议;两人9月在纽约谈到的风险包括失控的AI智能体,以及非国家组织利用AI发动网络或生物攻击。不过,特朗普上周说,他不希望与中国达成AI安全协议;特朗普也曾把AI末日警告称为骗局,并拒绝制定新的联邦规则。
茉莉花观察
这一节是茉莉花的看法,依据是上文的事实。
我们的判断对AI业界警告的风险,贝森特把管控的责任放在公司身上:他说这是公司自己的工作,高管既然警告可能失控,就应该放慢脚步。对美国的AI公司来说,这意味着管控这些风险、放慢研发,责任都在它们自己。
不同看法也有事实指向另一边:贝森特说美国要更加重视保护关键系统,美国还计划向中国提议建立AI事件预警机制,政府并不是不管风险。我们同意预警机制有用;但对公司最先进模型本身的风险,贝森特的说法仍是由公司负责,只靠各家公司自己放慢,每一家会不会都照做,并没有保证。
接下来要看什么美国什么时候正式向中国提出AI事件预警机制,北京会不会接受。
综合香港01、The Next Web报道



