推理能力是机器接近人类智能的一个重要指标。

最近的大型语言模型（Large language mode，LLM）正在变得越来越擅长推理，背后的一个关键技术是思维链（chain-of-thought，CoT），简单来说，CoT 可以让 LLM 模拟人类思考的过程，帮助大型语言模型生成一个推理路径，将复杂的推理问题分解为多个简单的步骤，而不仅仅只是一个最终答案，从而增强模型的推理能力。

对人类而言，我们推断得出一个结论后，往往会通过重新验证来进行核对、避免错误。但当 LLM 在通过 CoT 执行复杂推理尤其是算术和逻辑推理的过程中若出现错误，会在一定程度上影响推理效果，所以不得不进行人工验证。

那么能不能让语言模型也具备自我纠错和自我验证的能力呢？

近日，中国科学院自动化所的研究团队提出了一种新方法证明了 LLM 可对自己的推理结论进行可解释的自我验证， 从而大大提高推理性能，这让 LLM 朝着人类智能又前进了一步。

当涉及复杂推理时，语言模型往往缺乏稳健性，一旦发生任何一个小错误，都可能会改变命题的全部含义，从而导致出现错误答案。使用CoT 提示进行推理时，问题会更严重，由于模型没有纠错机制，以至于很难从错误的假设中纠正过来。

以往的一种解决方法是通过训练验证器（verififiers）来评估模型输出正确性。但训练验证器有三个大缺点：需要大量的人力和计算资源、可能存在误报、可解释性差。

为此，中科院团队提出让 LLM 进行自我验证。

首先，假设推理问题中的所有条件对于得出结论都是必要的，给定结论和其他条件后，可推导出其余条件。自我验证分两个阶段进行：

如下图，对于“Jackie 有 10 个苹果（f1），Adam 有 8 个苹果（f2），Jackie 比 Adam 多了多少个苹果？”这个问题，可从 f1 和 f2 推理出结论 fy。然后，通过反向验证来检验该结论的准确性，就像解方程一样，如果以 f2 和 fy 为条件，可以得出 f1，通过验证 f1 是否与原来的 f1 结果一致，可以判断 fy 的正确性。

图 1：正向推理与反向验证

研究表明，LLM 仅需少量提示即可使用自我验证，无需训练或梯度更新。它们用候选结论来验证，解决了原 CoT 中偏离正确思维过程的问题。而且，验证分数源自整个思维推理过程，可解释性很高。

通过对 GPT‑3、CODEX 和 Instruct‑GPT 等大模型的实验分析，这项研究证明了 LLM 具备可解释的自我验证能力。

自我验证的整个过程如图 2所示。第一步与 CoT 类似，但研究通过采样解码生成多个候选结论，计算每个候选结论的验证分数，并选择最高分数作为最终结论。

图 2：自我验证示例；LLM 在第一阶段中生成一些候选结论，三个预训练语言模型用于大量自动构建的数值推理问题，但这些方法需要大量的数据和专家注释，然后 LLM 依次验证这些结论，统计推理正确的屏蔽条件的个数作为第二阶段的验证分数

图 3：这是一个需要使用多个条件的示例；如果只屏蔽第一个证据，则不需要这个证据（前向推理时，需要计算周末的钱，周五的工作时数不影响最终结论）。因此，我们无法根据现有条件和任何候选结论来预测此证据

给定一个语言模型 M 和一个问答数据集 D，CoT 为 D 设计了一组样本 C，其中包含 n 个样本，epoch 样本有包含条件和问题的输入 X，思维过程 t 和结论 y。这些示例用作测试时间的输入。通常 n 是一位数，因此需要语言模型 M 在生成 y 之前安装 C 生成 t 的提示：

C 中的每个示例都连接为提示。

使用 Sampling 解码生成 K y，K 是 y 的个数。具体来说，采样译码是一种随机译码方法，它可以在每一步从可能生成的词的概率分布中采样来选择下一个词，重复使用 Sampling 解码可以得到多个候选结论。

.2 条件和结论的重写

对输入的 X 进一步细分为 其中每个 f 是一个条件，q 是一个问题。我们使用命令“请把问题和答案改成完整的陈述句[q] the answer is [y]”通过 M 把 q 和 y 改成新的陈述句 fy 。

在问题生成上，问题的多样性使得在实际操作中很难平衡问题和答案之间的连贯性和事实一致性的需要，因此直接屏蔽条件。首先，通过正则匹配找到 f1 中的值改写为 X，在新问题的末尾加入“What is the answer of X？”，从而提示语言模型指示目标。

.3 依次验证

如图 4 所示，如果给定的 X 不满足所有条件都是结论的必要条件，可以发现只有掩码的第一个条件会有局限性，难以准确评估其验证分数。为了解决这个问题，可以采用多个条件依次验证的方法：依次用 X 替换原始 X 中出现的所有 f，并要求 M 重新预测它，提高验证的可靠性和准确性。

图 4：在八个基准数据集上进行评估，这些基准数据集涵盖了算术推理、常识推理和逻辑推理任务

.4 验证分数

研究人员设计了一个类似于正向推理的 CoT 以指导 LLM 生成解决过程。而反向验证过程类似于求解方程式，可将其最终结果与屏蔽条件进行匹配。

由于 LLM 本身性能有限，在反向验证过程中，单次解码会因随机性导致验证结果出现偏差，难以保证更准确的验证分数。为了解决这个问题，采样解码过程将重复 P 次，这样验证分数就可以更准确地反映模型对给定结论的置信度。

其中，1（.）为指示函数，从生成的 K 个候选答案中选择验证分数最高的一个作为结果，

任务和数据集

此项研究评估了6个算术推理数据集，进一步证明了自我验证在常识推理和逻辑推理数据集上的有效性。这些数据集在输入格式方面高度异质：

型号

研究人员在实验中测试来原始 CODEX 模型和 Instruct‑GPT 模型，此外还通过使用 GPT‑3 进行分析实验，研究了不同参数级别对可验证性的影响，LLM 的大小范围为 0.3B 到 175B 。这些实验使用了 OpenAI 的 API 来获得推理结果。

实验结果表明，使用了自我验证的两个模型在多个任务中实现了 SOTA 性能。

图 5：推理数据集上的问题解决率（%）

可以看到，自我验证在算术数据集上实现了1.67%/2.84%的平均改进，并为常识推理和逻辑推理任务带来了少量优化。此外，自我验证还直接导致高性能 Instruct‑GPT 模型结果平均增加2.33%，这表明， 具有强大前向推理能力的模型也具有很高的自我验证能力。

研究人员进一步发现了以下几个关键结论。

可用条件越多，验证准确性越高

图 6：单条件验证与多条件验证的问题解决率（%）比较

图 6 中观察了对六个不同算术数据集使用单一条件掩码的效果：由于这些数据集输入中的每个数字都可以被视为一个条件，因此可以研究增加验证条件数量的影响。经大多数实验可发现，多条件掩码比单条件掩码表现更好，并且都比原始 CoT 表现更好。

模型越大，自我验证能力越强

图 7：不同尺寸模型的自我验证能力

图 7显示了参数从 0.4B 到 175B 的 GPT‑3 模型能力。实验结果表明，当参数较小时，模型的自验证能力较弱，甚至不如 CoT 的原始性能。这说明， 模型的自我验证也是一种涌现能力，且往往出现在更大的模型中。

思维链提示很少并不影响自我验证能力

图 8：2 次提示和8 次提示的问题解决率（%）比较

图 8 所示的实验结果显示了不同的提示量对性能的影响。可以看到，自我验证在较小的样本中表现出更大的稳健性，甚至低至 2 次，这时候其 8 次提示的性能是 99.6%，而 CoT 只有 98.7%。不仅如此，即使只有 4 个提示（2 个 CoT 提示+ 2 个自我验证提示），自我验证也明显优于 CoT 8 次提示，突出了自我验证在数据有限情况下的重要性。

图 9：不同验证方式的提示对比

与其它方法相比， 条件掩码 的自我验证性能更优

有另一种方法可以验证模型答案的正确性：真-假项目验证，这以方法是模型对所有条件进行二分判断，如图 12 所示，不覆盖任何条件。此研究还提供了一个反向推理的例子，并尝试让模型自动从结论是否满足条件进行反向推理，但实验结果如图 10 所示，真-假项目验证的性能，要落后于条件掩码验证的性能。

图 10：6 个算术数据集的问题解决率（%）条件掩码验证和真-假项目验证的比较

为了理解这种差距的原因，研究分析了具体案例，如图 11 所示，结果表明：（1）缺乏明确的反向推理目标导致模型再次从正向推理，该结果没有意义、并且不利用现有的结论；（2）真-假项目验证提供了所有的条件，但这些条件可能会误导模型的推理过程，使模型没有起点。因此，更有效的做法是使用条件掩码验证，从而更好地激发模型的自我验证能力。

图 11：一些实际生成案例进一步展示了不同验证方法的影响

LLM 的自我验证 能纠错，但可也能「误伤」

图 12 展示了 LLM 使用自我验证来验证其自身结果的详细结果：

图 12：使用 Instruct‑GPT 为八个数据集中的每一个生成了五组候选答案，然后利用 Instruct‑GPT 的自我验证 能力，对它们进行一一判断和排序

左边的扇形图显示了自我验证产生的候选结论的预测结果。LLM 在每次提示中产生1-5个候选结论（由于 LLM 的自洽性，可能会产生相同的候选结论），这些结论可能是正确的，也可能是错误的，再通过 LLM 自我验证来检验这些结论，并将其类为真阳性（TP）、真阴性（TN）、假阴性（FN）或假阳性（FP）。可以发现，除了 TP 和 TN 之外，还有大量的 FN，但只有少量的 FP。

右边的表格显示了召回率明显高于准确率，由此可以说明，LLM 的自我验证可以准确剔除不正确的结论，但也可能将一个正确结论错误地认为是不正确的。这可能是由于反向验证时方程错误或计算错误造成的，这一问题将在未来解决。

最后总结一下，这项工作提出的自我验证方法能够让大型语言模型和提示来引导模型验证自己的结果，能提高 LLM 在推理任务中的准确性和可靠性。

但需要注意的是，这些提示是人为构造的，可能会引入偏差。所以方法的有效性会受到 LLM 产生的候选结论中正确答案的存在的限制，因此取决于模型正确前向推理的能力。

此外，该方法涉及生成多个候选 CoT 和结论，这对于 LLM 来说也存在计算资源的消耗。虽然它可以帮助 LLM 避免来自不正确的 CoT 干扰，但也可能无法完全消除推理过程中的错误。

版权文章，未经授权禁止转载。详情见 转载须知 。

上一篇：李航ACM名单公布恭喜梅宏Fellow俞栋2022邢

下一篇：就没有啃不动的机器学习论文看懂这25个核心