别被迷惑——LLM 并不会真正推理

前 Google DeepMind 研究员撰文指出，LLM 靠逐个预测 token 生成答案，其链式推理仍由同一套下一 token 预测完成，并非独立推理机制。他列举三大缺陷：缺乏可检查的持久认知状态、知识与推理在权重中纠缠、思维链常在得出答案后事后编造。他主张借鉴 AlphaGo 的搜索架构，为模型建立可更新的认知状态。