如果 AI 已经接近跨过智能门槛,下一步是什么?
过去几年,AI 发展的主线其实非常清晰:
让模型变得更强。
更多数据。
更多算力。
更大的模型。
更好的推理能力。
几乎每一次重大突破,都在回答同一个问题:
机器能不能变得更聪明?
但最近,这个问题正在发生变化。
随着新一代模型不断提升,越来越多人开始讨论:
我们是否已经接近,甚至已经跨过某种“智能门槛”?
也许未来真正重要的问题不再是:
AI 还能不能继续变聪明?
而是:
当 AI 足够聪明之后,还缺少什么?
因为智能本身,可能并不是完整的 AGI。
智能,不等于一个持续运行的系统
今天的前沿模型已经非常强大。
它们可以:
编写软件。
分析研究资料。
操作计算机。
制定复杂计划。
辅助专业工作。
这些能力在几年前几乎无法想象。
但是,大多数 AI 交互仍然遵循一种熟悉的模式:
人类提出目标。
模型进行推理。
任务完成。
会话结束。
系统等待下一次调用。
这种模式非常有效。
但它和一个持续存在的智能系统仍然不同。
一个真正长期运行的 AI,需要不断回答一些新的问题:
过去发生了什么?
哪些变化值得关注?
之前的经验应该如何影响现在的判断?
刚才的行动真的产生了预期结果吗?
如果失败了,应该继续、调整,还是停止?
这些问题已经不只是“模型够不够聪明”。
它们属于系统设计。
缺失的不是更大的模型,而是模型和现实之间的那一层
现在很多 AI 讨论都有一个默认假设:
只要模型足够强,它自然会变成真正的智能体。
但我认为事情并没有这么简单。
模型提供的是认知能力。
但自主运行,需要更多基础设施。
一个长期工作的 AI 系统需要:
记忆。
让过去真正影响未来,而不是每次重新开始。
状态。
知道自己当前处于什么阶段,正在做什么。
验证。
区分“我尝试过”和“事情已经完成”。
恢复。
面对错误时,不是简单失败,而是能够重新调整。
权限。
知道自己可以做什么,也知道不能做什么。
身份。
保持跨时间的连续性。
观察能力。
理解外部世界正在发生什么变化。
这些能力不是简单增加模型参数就能获得的。
它们属于模型之外的系统层。
下一场 AI 竞争,可能发生在模型之外
第一阶段的 AI 竞争,是制造更强的大脑。
下一阶段,可能是制造更好的神经系统。
人类的大脑非常强大。
但人的智能并不是孤立存在的。
它依赖:
记忆。
反馈。
目标。
环境。
长期经验。
社会关系。
如果一个大脑失去这些连接,它仍然拥有计算能力,但已经不是一个完整的人。
同样,一个非常强大的 AI 模型,如果没有可靠的运行环境,也可能只是一个强大的工具。
未来的 AGI 架构,也许不会只是:
一个超级模型。
更可能是一整套系统:
能够感知。
能够规划。
能够记忆。
能够验证。
能够学习。
能够长期保持一致性。
持续性,会改变所有问题
当 AI 从一次性的对话,进入长期运行阶段,很多问题都会发生变化。
一次错误回答,只是一个错误回答。
但一个持续运行的 Agent:
错误可能变成错误记忆。
错误决策可能影响未来行为。
错误生成的技能可能成为长期能力。
这意味着我们需要新的工程方法。
我们需要知道:
AI 当前相信什么?
这些信息来自哪里?
哪些状态已经被验证?
如何撤销错误更新?
如何区分学习和污染?
如何让系统足够自主,同时又保持可控?
这些问题,正在成为下一代 AI 系统真正困难的部分。
AGI 可能不是一个瞬间,而是一系列门槛
我认为现在关于 AGI 的讨论,可能正在进入一个新的阶段。
“AGI 到了吗?”
这个问题也许过于简单。
因为未来可能不存在一个明确的瞬间。
我们可能会逐渐跨越不同的门槛。
智能门槛:
AI 是否能够理解并解决广泛的问题?
自主门槛:
AI 是否能够长期保持目标,主动管理任务?
可靠性门槛:
我们是否能够信任它处理真实世界的重要事情?
治理门槛:
我们是否能够理解、审计和控制它的行为?
不同的人看同一个 AI 系统,会得出不同结论。
有人看到智能。
有人看到缺失的自主性。
两者可能都是正确的。
构建智能之外的系统
这也是 AdamI 关注的问题。
目标不是再创造一个基础模型。
世界上已经有大量公司投入这个方向。
更有意思的问题是:
如何让智能成为一个可靠、持续、可信任的系统?
模型和现实世界之间,还缺少什么?
我们需要一层负责:
记忆。
状态。
任务。
验证。
权限。
持续运行。
的系统架构。
因为下一代 AI 的竞争,可能不只是:
谁拥有最聪明的模型。
而是谁能够让这个智能稳定地存在于现实世界中。
AI 的下一章
如果未来 AI 系统真的能够完成越来越复杂的知识工作,那么瓶颈也会发生变化。
过去:
我们需要更聪明的模型。
现在:
我们需要更好的工具和环境。
未来:
我们需要更完整的系统。
真正的问题可能不再是:
AI 会不会思考?
而是:
AI 能不能在持续思考、行动、学习和与世界互动的过程中,始终保持一致?
这就是智能之后,缺失的那一层。
也是下一阶段 AGI 发展的核心方向。
