茉莉花新闻网

中華青年思想與行動的聚合地

在人工智能疯狂竞赛中 Anthropic提议共同暂停 - 法国国际广播电台

05/06/2026 - 18:17


美国人工智能(AI)领域的领军企业之一 Anthropic 周四提出构想,建议建立一套机制,使该技术领域的顶尖公司能够达成共识,在人类社会做出适应调整期间,放缓或暂停人工智能的研发进度。

该公司在其智库“Anthropic 研究院”发布的一篇文章中呼吁:“我们认为,如果全球能够具备放缓或暂时暂停尖端人工智能研发的能力,将对世界有利。这样可以使社会结构和对齐研究(alignment research)能够跟上技术进步的步伐。”

目前,该公司正与 OpenAI、谷歌以及中国的 DeepSeek 展开激烈竞争。Anthropic 主张建立全球协调系统,以确保没有任何竞争对手会利用他人放缓的机会抢占先机。

Anthropic 是人工智能模型“Claude”的开发者。该文引用了《中程导弹条约》(INF Treaty)作为先例,并强调中程导弹条约框架的建立耗费了数十年时间,但对于人工智能而言,时间更为紧迫,因为人工智能被认为“比导弹发射井要容易隐藏得多”。

该公司写道:“在缺乏全球协调机制的情况下,企业和政府将不得不在竞争压力和地缘政治因素的影响下,做出艰难的安全性决策。”

让中国获优势?

法新社这篇报道写到,这一提议预计将在美国国内遭遇巨大阻力,因为许多政界人士和科技高管拒绝任何可能让中国获得决定性优势的减速行为。

不过,唐纳德·特朗普(Donald Trump)表示,他在最近访问北京时,曾谈及与中国在人工智能安全领域开展合作的可能性。

Anthropic 由 OpenAI 的前员工创立,一直以将伦理和安全置于核心地位的实验室形象自居。但该公司也受到了来自行业内部和白宫官员的批评,指责其在与 OpenAI 争夺首次公开募股(IPO)主导权的激烈竞争中,夸大风险,甚至采取了“恐惧营销”策略。

近两个月来,Anthropic 限制了其最先进模型“Mythos”的发布,以便在公开发布前完善网络安全补丁。Anthropic 宣布将在“未来几周内”推出性能相当的模型,而竞争对手预计也将发布类似的系统。

该公司在其提议辩护时,披露了一些内部数据,指出未来可能实现“递归自我改进”(auto-amélioration récursive),即人工智能系统将具备训练其后续版本的能力,而人类在此过程中的参与度将降低。

该公司理性地表示:“目前没有任何保证表明这种转变即将来临”,但“如果目前的趋势持续下去”,这在未来将变得“具有可能性”。公司认为,这既是医学、技术和经济领域的飞跃,同时也伴随着“失控”的风险。

同类信息

查看全部

茉莉花论坛作为一个开放社区,允许您发表任何符合社区规定的文章和评论。

茉莉花新闻网

        中国茉莉花革命网始创于2011年2月20日,受阿拉伯之春的感召,大家共同组织、发起了中国茉莉花革命。后由数名义工无偿坚持至今,并发展成为广受翻墙网民欢迎的新闻聚合网站并提供论坛服务。

新闻汇总

邮件订阅

输入您的邮件地址:

linkedin facebook pinterest youtube rss twitter instagram facebook-blank rss-blank linkedin-blank pinterest youtube twitter instagram