Thought-Like-Pro: Enhancing Reasoning of Large Language Models through Self-Driven Prolog-based Chain-of-Though

大型语言模型（LLMs）表现出色，作为通用助手，在各种推理任务中表现出色。这一成就代表着实现人工智能（AGI）的重要一步。尽管取得了这些进展，LLMs的有效性常常取决于所采用的具体提示策略，并且缺乏一个强大的框架来促进在各种推理任务中的学习和泛化。为了解决这些挑战，我们引入了一种新的学习框架THOUGHT-LIKE-PRO。在这个框架中，我们利用模仿学习来模仿链式思考（CoT）过程，这个过程是通过一个符号Prolog逻辑引擎生成的推理轨迹进行验证和翻译的。这个框架以自主驱动的方式进行，使LLMs能够从给定的指令中制定规则和语句，并利用符号Prolog引擎推导结果。随后，LLMs将Prolog推导的连续推理轨迹转换为自然语言CoT进行模仿学习。我们的实证结果表明，我们提出的方法显著增强了LLMs的推理能力，并展示了在超出分布推理任务中的强大泛化能力。

论文试图通过引入一种新的学习框架THOUGHT-LIKE-PRO，解决大型语言模型在多样化推理任务中依赖于特定提示策略的问题，从而提高其推理能力和泛化性能。

THOUGHT-LIKE-PRO学习框架利用模仿学习来模仿由符号逻辑Prolog引擎生成的推理轨迹中的思维链过程（CoT），并将其转换为自然语言CoT，这样大型语言模型可以从给定的指令中制定规则和语句，并利用符号逻辑Prolog引擎推导结果。

论文的实验结果表明，THOUGHT-LIKE-PRO学习框架显著提高了大型语言模型的推理能力，并在多样化推理任务中展现了强大的泛化性能。

最近的相关研究包括使用不同的学习框架和技术来提高大型语言模型的推理能力，如使用强化学习、迁移学习和元学习等。