如果 AI 已经接近跨过智能门槛,下一步是什么?

过去几年,AI 发展的主线其实非常清晰:

让模型变得更强。

更多数据。

更多算力。

更大的模型。

更好的推理能力。

几乎每一次重大突破,都在回答同一个问题:

机器能不能变得更聪明?

但最近,这个问题正在发生变化。

随着新一代模型不断提升,越来越多人开始讨论:

我们是否已经接近,甚至已经跨过某种“智能门槛”?

也许未来真正重要的问题不再是:

AI 还能不能继续变聪明?

而是:

当 AI 足够聪明之后,还缺少什么?

因为智能本身,可能并不是完整的 AGI。


智能,不等于一个持续运行的系统

今天的前沿模型已经非常强大。

它们可以:

编写软件。

分析研究资料。

操作计算机。

制定复杂计划。

辅助专业工作。

这些能力在几年前几乎无法想象。

但是,大多数 AI 交互仍然遵循一种熟悉的模式:

人类提出目标。

模型进行推理。

任务完成。

会话结束。

系统等待下一次调用。

这种模式非常有效。

但它和一个持续存在的智能系统仍然不同。

一个真正长期运行的 AI,需要不断回答一些新的问题:

过去发生了什么?

哪些变化值得关注?

之前的经验应该如何影响现在的判断?

刚才的行动真的产生了预期结果吗?

如果失败了,应该继续、调整,还是停止?

这些问题已经不只是“模型够不够聪明”。

它们属于系统设计。


缺失的不是更大的模型,而是模型和现实之间的那一层

现在很多 AI 讨论都有一个默认假设:

只要模型足够强,它自然会变成真正的智能体。

但我认为事情并没有这么简单。

模型提供的是认知能力。

但自主运行,需要更多基础设施。

一个长期工作的 AI 系统需要:

记忆。

让过去真正影响未来,而不是每次重新开始。

状态。

知道自己当前处于什么阶段,正在做什么。

验证。

区分“我尝试过”和“事情已经完成”。

恢复。

面对错误时,不是简单失败,而是能够重新调整。

权限。

知道自己可以做什么,也知道不能做什么。

身份。

保持跨时间的连续性。

观察能力。

理解外部世界正在发生什么变化。

这些能力不是简单增加模型参数就能获得的。

它们属于模型之外的系统层。


下一场 AI 竞争,可能发生在模型之外

第一阶段的 AI 竞争,是制造更强的大脑。

下一阶段,可能是制造更好的神经系统。

人类的大脑非常强大。

但人的智能并不是孤立存在的。

它依赖:

记忆。

反馈。

目标。

环境。

长期经验。

社会关系。

如果一个大脑失去这些连接,它仍然拥有计算能力,但已经不是一个完整的人。

同样,一个非常强大的 AI 模型,如果没有可靠的运行环境,也可能只是一个强大的工具。

未来的 AGI 架构,也许不会只是:

一个超级模型。

更可能是一整套系统:

能够感知。

能够规划。

能够记忆。

能够验证。

能够学习。

能够长期保持一致性。


持续性,会改变所有问题

当 AI 从一次性的对话,进入长期运行阶段,很多问题都会发生变化。

一次错误回答,只是一个错误回答。

但一个持续运行的 Agent:

错误可能变成错误记忆。

错误决策可能影响未来行为。

错误生成的技能可能成为长期能力。

这意味着我们需要新的工程方法。

我们需要知道:

AI 当前相信什么?

这些信息来自哪里?

哪些状态已经被验证?

如何撤销错误更新?

如何区分学习和污染?

如何让系统足够自主,同时又保持可控?

这些问题,正在成为下一代 AI 系统真正困难的部分。


AGI 可能不是一个瞬间,而是一系列门槛

我认为现在关于 AGI 的讨论,可能正在进入一个新的阶段。

“AGI 到了吗?”

这个问题也许过于简单。

因为未来可能不存在一个明确的瞬间。

我们可能会逐渐跨越不同的门槛。

智能门槛:

AI 是否能够理解并解决广泛的问题?

自主门槛:

AI 是否能够长期保持目标,主动管理任务?

可靠性门槛:

我们是否能够信任它处理真实世界的重要事情?

治理门槛:

我们是否能够理解、审计和控制它的行为?

不同的人看同一个 AI 系统,会得出不同结论。

有人看到智能。

有人看到缺失的自主性。

两者可能都是正确的。


构建智能之外的系统

这也是 AdamI 关注的问题。

目标不是再创造一个基础模型。

世界上已经有大量公司投入这个方向。

更有意思的问题是:

如何让智能成为一个可靠、持续、可信任的系统?

模型和现实世界之间,还缺少什么?

我们需要一层负责:

记忆。

状态。

任务。

验证。

权限。

持续运行。

的系统架构。

因为下一代 AI 的竞争,可能不只是:

谁拥有最聪明的模型。

而是谁能够让这个智能稳定地存在于现实世界中。


AI 的下一章

如果未来 AI 系统真的能够完成越来越复杂的知识工作,那么瓶颈也会发生变化。

过去:

我们需要更聪明的模型。

现在:

我们需要更好的工具和环境。

未来:

我们需要更完整的系统。

真正的问题可能不再是:

AI 会不会思考?

而是:

AI 能不能在持续思考、行动、学习和与世界互动的过程中,始终保持一致?

这就是智能之后,缺失的那一层。

也是下一阶段 AGI 发展的核心方向。