逆向博弈论：用激励让AI智能体守规矩 - AI 圈动态

MIT Tech Review AI 报道，一种名为“逆向博弈论”的新方法试图为强大的 AI 模型设计激励机制，使遵守规则成为其最理性的选择。随着模型能力提升，安全研究者正加紧确保 AI 与人类意愿“对齐”，防止失控智能体违法或越界。该思路把博弈论从预测行为转向反向设计规则环境，为 AI 安全治理提供新工具。

传统对齐依赖训练与约束，逆向博弈论则从机制设计入手，让合规成为模型的最优策略，思路接近“让坏人没动力作恶”。这为监管者提供了不依赖模型内部改造的外部治理路径，也提示 AI 安全正从技术问题转向制度设计问题。这意味着对齐研究可能迎来机制设计的新分支。