“逆向博弈论”如何约束 AI 智能体

一种名为“逆向博弈论”（机制设计）的新思路试图通过设计激励机制让 AI 智能体遵守规则，而非窥探模型内部或训练价值观。MIT 经济学家 Stephen Morris 等人的预印本论文提出用模型间交叉验证、智能体互相对抗等方式防止模型在测试中“放水”；普林斯顿 Elad Hazan 则设想让模型轮流扮演解题者与审计者，并对失职审计者施罚。该思路假设智能体行为理性，但这一前提本身仍待验证。