为什么 AI 推理应当可读，并如实反映模型的实际决策过程

越来越多 AI 系统会先用文字写出一段“推理过程”，再给出最终答案。 1 2 3 4 如果这段推理既让人看得懂，又能忠实地反映模型作出判断的过程，就有助于我们更安全地开发和使用强大的 AI 系统。这里的“可读”是指人类能够理解推理内容；“忠实”是指推理准确反映模型“真实”的决策过程。 5 6 我们认为，这类推理可以帮助人们发现 AI…