MIT Technology Review · AI· Thore Graepel·· 4 小时前AI 评分51
DeepMind 前核心成员 Thore Graepel:LLM 并不会真正推理,机器推理应借鉴 AlphaGo 架构
Don’t be fooled—LLMs don’t reason
AI 导读
AlphaGo 核心成员 Thore Graepel 撰文称,Move 37 出自 AlphaGo 的搜索式推理,而当今 LLM 逐 token 预测仍是系统 1 思维,链式推理并非独立的推理机制。他列出三大缺陷,包括无持久可检验的认知状态、知识与推理在权重中不可分、思维链常为事后编造,并主张借鉴 AlphaGo 的游戏树架构,让系统维护可审计的认知状态以实现可信推理。
来源:MIT Technology Review · AI · technologyreview.com