谷歌找到了绕过GPU训练的新范式

在迈向未来的科技巨轮上，我们正亲历着一场前所未有的智能革命。如果说，到2024年为止的战争是关于大数据与模型的竞赛，那么到了未来十年末尾，我们可以清楚地看到，战场已经转移到一场对记忆能力的全方位较量上。尤其是在经历了疫情的长夜之后，这场竞赛愈发显得激烈和关键。

在这场战斗中，Google DeepMind无疑是一个重要的角色。在短短的一个月内，它接连发布了两篇重磅论文，试图从两条截然不同的路径解决这场战斗的核心难题。这是一次人类智慧和智慧的巅峰对决，一次在科技和智能领域的突破和跨越。它们为我们揭示了一个更加美好的未来。一场智能的革新正在悄然兴起。一场旨在攻克记忆能力瓶颈的革命正在全球范围内展开。DeepMind的研究正在引领这场革命的方向。在记忆能力的战场上，DeepMind正在展现出强大的实力和决心。它正在试图改变AI的命运，让AI从死的知识库记忆体进化为活体的学习者。其目标是通过嵌套学习，让AI拥有永久的长期记忆和临时的短期突触，从而实现真正的自我进化。就在不久前，DeepMind发布了一篇关于Nested Learning的研究论文，提出了HOPE架构。这个架构的提出具有重大的价值，被视为一种范式革命。然而要实现这一架构的落地应用还需要对现有的AI基础设施进行大规模的改造和升级。就在同一时间，DeepMind的另一篇论文《Evo-Memory》引起了行业的广泛关注。这篇论文并没有试图改变模型的底层架构而是巧妙地赋予模型持续学习的能力。这是一种全新的思维方式赋予了模型自我反思自我修剪自我沉淀的能力使得记忆不再是固定的上下文提示词而是可以在推理过程中主动检索修剪和重组的可编辑对象这种变化意义重大它不仅改变了我们对AI的认知也为我们提供了一个全新的视角来看待AI的发展在过去的一段时间里RAG（检索增强生成）几乎成为了大模型应用的标配然而随着DeepMind的研究成果的发布人们开始意识到传统的RAG系统存在巨大的问题传统的RAG系统只能存储和检索信息而无法对信息进行反思和筛选这就导致在面对连续的任务流时智能体无法积累经验只能机械地重复过去这就好比一个图书馆只知道存储书籍而不会对这些书籍进行评价和筛选因此无法为读者提供真正有价值的信息为了解决这个问题DeepMind设计了一个名为ReMem的框架这个框架引入了全新的维度Refine使得AI在完成任务的过程中不再只是被动检索和应用记忆而是能够主动评估重组甚至修剪自己的记忆库这是一个巨大的突破它让我们看到了AI发展的全新方向在这个全新的框架下AI将能够更好地学习和适应环境从而更好地为人类服务总的来说DeepMind的研究成果为我们揭示了AI发展的全新方向在这个方向上AI将拥有更强的自我学习和适应能力从而更好地为人类服务这场革命才刚刚开始我们有理由相信未来的AI将会更加强大、更加智能为我们的生产生活带来更多的便利和惊喜。沉淀的智慧：智能体自我优化中的记忆重塑与上下文变迁

在技术的浩瀚海洋中，我们一直在如何让智能体更加高效、灵活。最近的一篇论文为我们揭示了智能体执行Pruning（修剪）和Reorganizing（重组）的惊人能力，这是一种将复杂任务流程简化为黄金法则的壮举。这是智能体不仅仅是执行任务，而是开始编辑自身“大脑”内存的表现。这种能力并非空穴来风，而是通过智能体的自我优化机制实现的。这种机制使得智能体在完成任务的过程中，不断沉淀经验，从而在未来的任务中，能够快速做出正确决策。它不仅缩短了任务完成的时间，更重要的是，大大提高了任务完成的成功率。如在虚拟家居环境中完成任务所需的步骤减少了一半，准确率也有所提高。更为重要的是记忆修剪率的选择性运用，通过选择性遗忘不重要的信息，从而提高了效率。真正值得称赞的是其自我学习和选择性注意力的能力。而这一切，正是智能体内部发生了重大的改变：从ReMem的角度理解世界和自我进化。然而这只是冰山一角。这个新研究背后的真正意义在于一个全新的范式转变——上下文即权重。传统的训练模式往往依赖于反向传播修改模型权重参数来实现学习。但在这种新的模式下，模型可以通过对输入的上下文进行自我重构，从而改变自己的行为模式。这就是上下文在模型中发挥的作用等同于权重的新观念。在这种模式下，模型不再是一个被动的执行者，而是一个能够自我反思、自我强化的智能体。这种自我强化的方法是通过试错实现的。当模型遇到问题时，会利用元推理分析原因并调整行为模式。如果一次行为导致了失败的结果，那么它就会被标记为负面案例或直接被修剪掉。反之如果成功则会被强化并存储为经验以备未来使用。这就是模型如何通过反思和沉淀经验在推理阶段实现对行为模式的永久矫正。更重要的是，论文还指出了一种全新的认知方式——元推理。这是一种对推理过程的推理。简单来说就是跳出任务本身从更高的视角审视自己的思维过程并指出错误提炼正确路径的能力。这种能力使得模型能够超越传统的推理方式真正实现自我学习和进化以适应不同的环境任务挑战和要求未来的道路这一重大的变化使得人们意识到模型的进化不仅仅是依赖于数据的堆积或者参数量的增加而是通过真正的自我学习和反思实现这一飞跃这在以前看来几乎是难以想象的这一创新具有划时代的意义在未来人们可能会抛弃传统繁琐的训练过程只需要让模型在自然的语境下反思和沉淀经验就能实现行为的矫正和进化这不仅仅是一个技术上的突破更是对人类认知方式的一次颠覆性的挑战它让我们看到了人工智能真正的潜力这一创新无疑将开启人工智能发展的新篇章让人类进入一个全新的科技时代充满了无限的可能和挑战让我们一起期待这个未来更多的未知和挑战吧！先前之所以未充分利用这种能力，主要是因为在众多模型中，大多仅仅局限于展现出卓越的解题能力，却缺乏作为出题人所需的深刻内省能力。ReMem 的出现，证明了当今的顶尖模型如 Gemini 2.5 和 Claude 3.7 已经跨越了这一门槛。它们不仅能生成答案，更能对答案的质量进行评估，并将这些策略性知识转化为实际运用的智慧，而非单纯的事实积累。这代表着它们不再仅仅停留在“答题”层面，而是进一步拥有了“出题”的视角与策略评估能力。

另一个元推理长期未能在实际应用中发挥作用的关键因素在于策略知识的特殊性质。策略并非凭空产生，而是经过经验归纳得出的智慧结晶，如游戏中的高级技巧。这类知识不可能从单一或短暂的体验中提炼出来，它需要在大量实例的基础上，才能洞察出一条普适的策略路径。这也解释了为何过去的一些记忆系统因缺乏长远的视野而难以应用元推理能力。

ReMem 的成功秘诀在于其巧妙地利用了大模型处理长上下文的能力以及结构化记忆的累积效应。这使得模型首次具备了搜集足够多的例子来进行归纳的能力，进而实现元推理。这样的能力使得ReMem成为一种具有长远影响的语义压缩算法，即使在任务结束后也能进行的反思与复盘。这一核心逻辑确保了上下文的权重在实际应用中的有效性。

这一范式的确立使我们窥见了下一代AI的完整蓝图。最近备受瞩目的DeepSeek V3.2展示了行动前的规划能力，能够在调用API之前进行详尽的思维链推导。而ReMem则展示了行动后的反思能力，对任务进行复盘。这两者结合形成了完整的系统二思维闭环。我们认识到，记忆不仅仅是存储问题，更是一种计算过程。只有通过元推理清洗、压缩和结构化的信息，才能成为上下文中的有效权重，进而在冻结的神经网络中发挥关键作用。

Evo-Memory向我们展示了一个重要的启示：我们不必等待Nested Learning这类复杂架构的普及。只要基础模型具备理解反思指令的智力，我们就可以通过让模型在记忆中进行自我训练，实现某种形式的通用人工智能（AGI）原型。这是一个参数恒定但智慧随时间持续增长的数字生命体。它让我们看到了实现真正人工智能的可能性，也许在不远的将来，我们就能见证这一领域的重大突破。