FLAP: Flow Adhering Planning with Constrained Decoding in LLMs

在任务导向对话（TODs）中，规划是代理人的关键任务。人类代理人通常通过遵循预定义的工作流程，将工作流程步骤分解为可执行的项目，并通过按顺序执行API来解决用户问题；所有这些都需要推理和规划。随着LLMs的最近进展，越来越多的尝试使用LLMs进行任务规划和API使用。然而，由于LLMs对预训练数据的偏向，计划的忠实性不能保证符合预定义的工作流程和API依赖关系。此外，在现实生活中，工作流程是自定义的并且容易发生变化，因此，快速适应变化的代理人是可取的。在本文中，我们研究了在TODs中忠实规划来通过遵循预定义的流程和保留API依赖关系来解决用户意图。我们提出了一种基于前瞻启发式的约束解码算法，用于忠实规划。我们的算法缓解了使用特定领域数据微调LLMs的需要，优于其他解码和提示基线，并将我们的算法应用于更小的LLMs（7B），我们实现了与更大的LLMs（30B-40B）相当的性能。

研究如何在任务导向对话中实现忠实的计划，遵循预定义的流程和API依赖关系。

提出了一种基于前瞻启发式的约束解码算法，以实现忠实的计划，遵循预定义的流程和API依赖关系。

实验表明，该算法可以减轻使用领域特定数据对LLMs进行微调的需求，并且在较小的LLMs上实现了与较大LLMs相当的性能。

最近的相关研究包括使用LLMs进行任务规划和API使用的尝试。