Self-Contrast: Better Reflection Through Inconsistent Solving Perspectives

大型语言模型（LLM）的反思能力引起了广泛关注。后置提示策略，例如反思和自我完善，可以根据自我评估或外部反馈来完善LLM的响应。然而，最近的研究表明，没有外部反馈，LLM的内在反思是不稳定的。我们的调查揭示了自我评估反馈质量的关键瓶颈。我们发现，LLM在自我评估时经常表现出过度自信或高随机性，提供固执或不一致的反馈，导致反思质量差。为了解决这个问题，我们提倡自我对比：它会根据请求自适应地探索不同的解决视角，对比差异，并将这些差异总结成一个清单，可用于重新审查和消除差异。我们的方法赋予LLM多样的视角，以减轻固执的偏见。此外，它们的差异表明LLM经常忽略的潜在错误或固有不确定性。反思这些可以促进更准确和稳定的反思。在一系列推理和翻译任务中使用不同的LLM进行的实验，进一步证明了我们策略的有效性和普适性。

本文旨在解决Large Language Model（LLM）的内在反思不稳定的问题，提出了一种自我对比的策略来改善LLM的反思质量。

文章提出了一种名为Self-Contrast的自我对比策略，通过探索多种解决方案，对比不同之处，并总结这些差异，以便重新审视和消除差异。这种方法为LLM提供了多种视角，缓解了顽固性偏见，并揭示了LLM通常忽略的潜在错误或固有不确定性。

文章的实验在一系列推理和翻译任务中进行，展示了Self-Contrast策略的有效性和普适性。同时，文章还提到了LLM自我评估反馈质量不高的问题，以及Self-Contrast策略的优势。

在相关研究方面，文章提到了post-hoc prompting策略以及reflexion和self-refine策略，这些策略也是用于改善LLM的反思能力的。