别被迷惑——LLM 并不会推理
前 Google DeepMind 研究员指出,LLM 靠逐个预测 token 生成答案,其链式思考仍由同一套 next-token 预测产生,并非真正独立的推理机制。他认为这类模型缺乏可检视的持久认知状态、知识与推理的分离,且链式思考常是事后编造,因此主张借鉴 AlphaGo 的游戏树搜索架构来构建真正的机器推理能力。
前 Google DeepMind 研究员指出,LLM 靠逐个预测 token 生成答案,其链式思考仍由同一套 next-token 预测产生,并非真正独立的推理机制。他认为这类模型缺乏可检视的持久认知状态、知识与推理的分离,且链式思考常是事后编造,因此主张借鉴 AlphaGo 的游戏树搜索架构来构建真正的机器推理能力。
MIT 研究者 Alex Zhang 在 Latent Space 播客中介绍了其 RLM(递归语言模型)工作:基于 RLM 的 harness 是首个接近解决 ARC-AGI-3 的系统,早于 OpenAI 的 Astra。他还讨论了 AI 生成 GPU 内核、harness 作为组合泛化器、Prime Agent 与持久化子智能体,以及 OpenAI 万级智能体实验、Kimi 集群等方向。
Michael Levin 提出"Platonic mindspace"假说,认为心智是非物理模式,身体与机器只是这些模式进入物理世界的接口,并用 xenobots、anthrobots 及排序算法扰动实验作为佐证。本期 Import AI 还讨论了太空 TPU 与智谱启动外层 RSI 循环,并指出机器人领域正等待自己的 LLM 时刻,但尚缺通用算法。
Google DeepMind 发文回顾 AlphaGo 击败围棋世界冠军十周年,称其标志着现代 AI 时代的开端。此后该技术路线催生了 AlphaFold 2,预测出科学界已知的 2 亿个蛋白质结构并开源,2024 年 Demis Hassabis 与 John Jumper 因此获诺贝尔化学奖。