Anthropic 可解释性研究员 Emmanuel Ameisen 谈 AI 模型如何思考

Anthropic 可解释性研究员 Emmanuel Ameisen 在访谈中讨论了 LLM 内部机制：模型会形成概念的通用表征，并提前规划多个 token 而不显式说出计划。他认为“下一 token 预测器”的说法低估了模型的规划与思考方式，模型是“生长”出来的而非被构建的。他还谈到模型可能具有类似人类意识与无意识加工的结构性区分，以及可解释性与 AI 对齐、安全的关系。