Oracular Programming: A Modular Foundation for Building LLM-Enabled Software

大型语言模型（LLM）已经证明，只需少量示例就能有效地解决各种任务。然而，由于其可靠性和模块化的不足，这些模型在处理需要多步骤推理的复杂问题时能力有限。为此，研究人员提出了利用领域特定知识的高级流程，通过链接较小的提示、提供中间反馈以及通过搜索改进性能。然而，编写、调整、维护和改进这些流程的当前复杂性限制了它们的复杂度。我们提出了神谕编程（oracular programming），这是一种构建LLM支持应用程序的基础范式，使领域专家能够将高层次的问题解决策略表达为包含未解决选择点的程序。这些选择点在运行时由LLM解析，LLM从用户提供的正确和错误决策示例中进行泛化。一个神谕程序由三个正交组件组成：一种策略，即包含选择点的非确定性程序，可以实例化为搜索树；一种策略，规定如何借助LLM神谕导航这棵树；以及一组演示，描述了在不同问题实例中成功和不成功的搜索树导航场景。每个组件都用专门的编程语言表达，并可以独立改进或替换。我们解决了模块化组合神谕程序以及在其组件演变过程中保持一致性的关键编程语言设计挑战。

论文试图解决大型语言模型（LLM）在处理复杂、多步骤推理任务时的可靠性和模块化不足的问题。这是一个新问题，因为随着LLM的能力增强，如何有效地利用这些模型来解决需要深度推理的任务变得越来越重要。

关键思路是提出了一种名为‘oracular编程’的新范式。该范式允许领域专家通过编写带有未解析选择点的程序来表达高层次的问题解决策略，这些选择点在运行时由LLM根据用户提供的正确和错误决策示例进行解析。这相比当前研究状况，引入了更灵活和模块化的解决方案，可以更好地适应复杂的推理任务。

论文提出了三个独立但相互关联的组件：策略、政策和演示，每个组件都有专用的编程语言，并且可以独立改进或替换。此外，论文还探讨了如何设计编程语言以确保这些组件之间的模块化组合和一致性。实验设计方面，虽然摘要中没有具体提到使用的数据集或开源代码，但强调了通过不同的问题实例来验证方法的有效性。值得继续深入研究的方向包括进一步优化oracular编程的效率和准确性，以及探索其在更多实际应用场景中的潜力。

最近在这个领域，其他相关研究包括使用强化学习来指导LLM的行为，如《Reinforcement Learning for Large Language Models》；开发专门用于特定任务的微调技术，例如《Specialized Fine-tuning Techniques for Domain-specific LLMs》；以及构建能够自动调整自身参数以适应不同任务需求的自适应系统，如《Adaptive Systems for Task-specific Parameter Tuning in LLMs》。