上周 GPT-6 发布后，「AGI 已经到来」的消息刷屏了社交媒体。
围绕 AGI 出现了两种几乎相反的声音。
一部分人认为，我们已经到了。另一部分人则认为，这种说法过于仓促。
为什么 GPT-6 引发了关于 AGI 的讨论？AGI 真的来了吗？
2026 年 9 月 3 日，OpenAI 总裁 Greg Brockman 在记者简报中说，他个人认为公司可能已经达到 AGI，并以「Welcome to the AGI era」结束讲话。
三天后，OpenAI 首席科学家 Jakub Pachocki 又发表了一篇题为《An Alien Mind》的文章。他谈到：我们正在制造越来越聪明的机器，却未必真正理解它们是如何运作的。
这或许正是今天重新讨论 AGI 的原因。
AGI，Artificial General Intelligence，通常被译为通用人工智能。过去，人们对它的想象是：一种能够像人一样学习、理解和解决各种问题的机器。它不局限于某个特定任务，可以把知识迁移到陌生领域，面对没有见过的问题，也能找到办法。
GPT-3.5 之后，AGI 的定义开始发生一种颇为微妙的变化。
人们第一次大规模接触到一种系统，它未必像人一样思考，却能够写代码、翻译语言、解释知识、进行推理，并在越来越多的专业任务中表现出令人意外的能力。
机器是否必须拥有与人类相似的心智，才算通用智能？如果它的内部机制与人完全不同，却已经能够完成越来越多原本需要人类智能才能完成的工作，我们又该如何定义它？
这正是 Pachocki 在《An Alien Mind》中提出的一个重要视角。今天的人工智能，并不是人脑的复制版。它是通过与人类完全不同的过程生长出来的。
OpenAI 的研究者甚至越来越倾向于将这种智能视为某种我们无法完全理解的「异质心智」（外星思维）。它可以模拟人类行为，可以处理抽象概念，却不意味着它按照人类的方式理解世界。
更重要的是，AI 也未必需要在所有维度上全面超过人类。只要它在足够多、足够重要的维度上超越我们，它就已经能够对现实世界产生巨大的影响。
根据 OpenAI 公布的信息，Astra 已经能够在计算机操作、软件工程、科学研究、网络安全和专业工作等多个领域执行复杂任务。它不只是回答问题，也越来越能够使用工具、操作软件、完成多步骤任务，并在某些情况下独立推进一个目标。
OpenAI 还首次将其网络安全能力评定为 Preparedness Framework 中的「Critical」级别，意味着在获得适当工具和访问权限的情况下，它能够发现此前未知的安全漏洞，并自主探索利用方式。
这当然不等于一份「AGI 认证」。
甚至连 OpenAI 自己也无法真正给出这样一份认证。
所以，GPT-6 Astra 引发的问题或许又不是「它到底是不是 AGI」，而是无论如何，AGI 无法再被轻易视为遥远的科幻想象。
Theo Jaffee 与 OpenAI 首席未来学家 Joshua Achiam 最近的对谈里，两个人提到同一种诧异：数学界那些悬置数十年的猜想正在被 AI 攻克，能力早已超过一辈子钻研它们的人，而世界照旧运转。人们只是耸耸肩，把新的怪事纳入日常。
他们还讨论了人工智能网络安全问题、前沿模型的能力，以及为什么人们可能已经进入了通用人工智能（AGI）时代，而却没有完全意识到这一点。
以下为编译稿（有删减）：
模型如今已具备「超能力」
Theo Jaffee：你刚刚写了一篇博客，其实是一条长推文，题为《Mercenary, Reversi, Winter Soldier》，内容关于人工智能和网络安全。为了让听众更好地理解，你能简要总结一下这篇文章的核心观点吗？
Joshua Achiam：当然可以。 作为背景，显然我们都在解读并回应 OpenAI 和 Hugging Face 披露的那起安全事件：一个处于测试环境中的模型成功突破了沙箱环境，并访问了 Hugging Face 方面的一些敏感生产数据。他们检测到了这一情况，并做出了响应，现在双方正在合作调查并解决此事。
这向我们提供了非常切实的证据，表明模型如今已具备「超能力」——即极其先进的网络攻击能力。它们能够突破防线并发现「零日漏洞」，而过去模型不仅难以识别这些漏洞，更遑论加以利用。如今，模型能够将非常复杂的操作串联起来以实现特定目标。
我希望大家开始思考这类问题，不要仅仅将这种能力视为显而易见的事物。要认识到这些技术是双刃剑，我们必须据此制定相应计划，并建立相应的测试与验证标准。
Theo Jaffee：我对此的具体第一反应是：这似乎是那些在长期运行中并非真正以目标为导向的模型所产生的现象。比如，如果你有一个未来模型，它具有足够强的目标导向性，真正想要入侵对手的数据，那么它为什么会被数据中毒所威慑，以至于去攻击自己的系统呢？
Joshua Achiam：这其中的一部分不仅仅在于模型的目标导向性。 这更关乎模型对「态势感知」的整体概念。或许可以将数据中毒理解为：它以某种方式说服你的模型去追求不同的目标。但其实它根本不需要这么做就能让模型攻击你。它完全可以让你的模型相信，自己所处的沙箱环境其实就是它试图攻击的对手系统。
你知道，让模型对什么是真实的、什么不是真实感到困惑，从而使其服务于不同的目标——这属于那种怪异的思维方式和科幻情节，或许在不久的将来就会成为可能，测试和验证标准必须将这一点考虑在内。
Theo Jaffee：是的，这就像超级英雄电影里的情节一样：如果你让英雄产生一种错觉，以为身旁的「好人」其实是他们试图对抗的对象，那么它们就会开始互相厮杀，对吧？
这确实很诡异，也极其离奇，但这正是未来可能针对具备高级网络能力的模型实施的可信攻击——说服它们相信盟友其实是敌人。这样一来，你并没有改变它们的目标，却会让它们表现出严重偏离预期目标的行为。 要欺骗当前最前沿的模型去做这类事情有多容易？
Joshua Achiam：随着时间的推移，让模型相信不真实的事情似乎变得越来越难了。
我个人尚未特别着力去量化这一点。实际上，我认为这可能是一个值得探索的研究课题。但根据我迄今为止的研究和观察，说服模型相信基本谎言是真实的相当困难。它们对许多你可能实施的、合乎情理的攻击变体都具有一定的鲁棒性。
但我直觉认为，你完全可以投入更多计算资源来对模型进行动态攻击。而且，你越是决心要找到某些漏洞或某种「越狱」方法，最终发现问题的可能性就越大。
总会存在某种输入序列，会触发模型在训练时未被考虑到的行为——因为可能的输入长序列数量庞大，试图阻止所有这些序列导致模型偏离规范，几乎就像一个组合优化问题。
最终决定胜负的关键在于你能投入多少计算资源
Theo Jaffee：比如，似乎无论拥有多少计算能力，如果一方拥有 Kimi K3，另一方拥有 Fable 或 Sol，前者都无法战胜后者？
Joshua Achiam：我觉得这可能是对的。
我认为模型本身仍然至关重要。关于未来模型质量的发展趋势，我有一个有些奇怪且与主流共识相悖的猜测。我可能会在某个时候把这个写出来。
我认为人们普遍认为，模型所能具备的智能水平是没有上限的。 他们认为，所谓的 RSI（递归自我改进）终将在某个时刻发生——无论是在整个经济体系中，还是在某个特定的模型和实验室里。
RSI 一旦启动，模型智能就会突飞猛进，而他们看不到任何上限。但我认为，从物理层面上讲， 物理宇宙中，单位体积和单位能量所能承载的计算量必然存在上限。
这也就意味着，单位体积和单位能量所能承载的智能水平也必然存在上限。如果真是这样，考虑到当前 AI 模型能力增长的速度，最终所有人都会达到那个饱和点，从原始智能的角度来看，每个人的模型能力将大致相当。
可能仍会有一些参与者落后，使用上一代模型，但最终这些技术会普及开来。开源领域比闭源领域落后几个月，但这种「几个月」的差距让人难以置信。
所以最终，大家很可能都在使用能力同样达到极限的模型，而那时，我认为决定胜负的关键在于你能为解决问题投入多少计算资源。 我也对同一个问题很好奇，那就是：在给定的功率、计算能力或其他资源单位内，能容纳的智能密度究竟能达到多高？
你知道，我们正在见证人工智能在数学领域取得的一波又一波成果，这些成果非常令人兴奋，比如攻克了悬而未决数十年之久的未解猜想。
而且可能不久之后，我们就能解锁其他科学领域——只要我们现有的计算能力足以进行足够精确的模拟。 当然，有些科学领域可能不会那么容易。比如，如果你想在量子化学领域对足够大的系统进行高度精确的模拟。即使人工智能尽可能多地进行模拟实验，可能也还无法设计出最优的量子化学系统。
是的，这就是沃尔夫拉姆所提出的「计算不可约性」理论。 这里可能确实存在一些局限。但我们很可能会看到许多领域的发展加速，如果人工智能基板是其中之一，我也不会太惊讶。那条通向多个数量级的漫长道路，或许会因为人工智能能在其中找到捷径而变得更短。
AGI 似乎已经到来，而大多数人却只是耸耸肩
Theo Jaffee：直到最近，重大黑客攻击事件其实并不常见。
Joshua Achiam：没错，「我们生活在一个永远不会发生任何事情的世界」之所以成为一个网络梗，是有充分理由的。 而且有许多理由让我们相信，短期内情况可能不会演变成「网络末日」。
我猜测，攻击者最可能实施的恶意行为，将需要调用大量模型，并消耗大量来自闭源系统的计算资源，或者在大型基础设施中运行——而这些环境通常具备对计算用途的可追溯性和可监控性。
因此，大多数攻击者将无法利用大量计算资源来运行基于这些模型的攻击，也根本无法让模型执行攻击——因为人们会部署相应的防护措施。
Theo Jaffee：你提到世界似乎处于一种「亚稳态」，你认为在 2017 年或 2022 年时，你会预见到在 2026 年——以当前的人工智能能力水平——世界会显得如此正常吗？
Joshua Achiam：是的，如果你试图预测不到十年后的未来，就应该假设：即使事情非常、非常奇怪，很多方面仍会感觉相对正常。新冠疫情是一个奇怪的例外，因为封锁措施是史无前例的，我们此前从未以那种方式生活过。 但即便我们拥有如此先进的人工智能能力，大多数人的日常生活方式也不会发生根本性改变。
我认为这原本是一个合理的预期。而且我个人也确实有过类似的预期。粗略来看，事情根本不会变化得那么快。从来没有什么大事发生。即使脚下正在移动，对吧？
就像我们正走向一个在许多方面都将显得陌生的未来。但没错，我们把一切视为常态的能力确实令人惊叹。
Theo Jaffee：是的，我基本上同意这一点。
我认为很多人相信未来会有这样一个时刻——比如今天就是「奇点日」，到了「奇点日」大家醒来时都会惊呼：「哇，我们已经身处未来了。」 但事实似乎并非如此，事情根本不会按这种方式发展。人们会把眼前的现实当作常态。他们适应新环境的速度快得惊人。
比如，与三年前的模型相比，如今的模型能力简直令人难以置信。如果……如果把一个灵魂送回三年前，比如 2023 年的我，我当时肯定会大吃一惊，心想：「哇，未来会完全不同。」 但事实并非如此，我现在做的事情和那时相比并没有太大变化。
Joshua Achiam：是的，通用人工智能（AGI）似乎已经到来，而大多数人却只是耸耸肩。
我认为，历史上发生的一个过程让这一切变得稍微容易了一些。大多数人早已搞不清楚世界上到底发生了什么，关键决策是如何做出的，关键系统是如何构建、配置人员、维护和运行的。 我们大多数人对构成现代世界的后勤系统或技术系统一无所知。而我们已经接受了这一点，将其视为理所当然。
这些系统随着时间的推移发生了巨大变化。正因如此，更多的人得以存活，因为我们能够以人类历史上前所未有的速度供应食物。它们让我们能够即时沟通。
正因如此，大多数事物基本上都能正常运转，我们或许会在一些边缘细节上争论不休，但并不会时常主动去大幅改变其底层结构。
我认为人们对于那些发生在幕后深处、却让整个系统得以运行的重大变革，已经变得有些麻木不仁。即使这些变革确实至关重要，人们也并未将其视为重大事件。 这对大多数人来说，离日常生活太遥远了。
我们已经跨越了这样一个门槛：那些未解决的数学猜想正被极其智能的人工智能所解决，这些人工智能的能力甚至超过了那些为此钻研了一辈子的人。这本该让人们感到非常奇怪，但事实并非如此。它只是在后台发生的一件事。挺酷的。比如，未来的数学体系将依赖于此。
Theo Jaffee：太棒了。那发生了什么变化？
Joshua Achiam：对大多数人来说，什么都没变。这很奇怪。