Interactive Speculative Planning: Enhance Agent Efficiency through Co-design of System and User Interface

作为以用户为中心的工具，代理人越来越被用于人类任务委派，通过生成想法、与用户代理交互和制定行动计划来帮助解决广泛的请求。然而，基于大型语言模型（LLMs）的代理人常常面临实现计划的重大延迟，这是由于底层LLMs的效率限制，因为它们的体积庞大且需求量高，以及代理人的结构复杂性，由于需要生成大量的中间思路来产生最终输出。鉴于服务提供效率低下可能会削弱自动化对用户的价值，本文提出了一种以人为中心的高效代理人规划方法——交互式推测规划，旨在通过系统设计和人工智能交互来增强代理人规划的效率。我们的方法主张代理人系统和用户界面的共同设计，强调代理人系统能够流畅地管理用户交互和中断的重要性。通过将人工中断作为系统的基本组成部分，我们不仅使其更加用户中心化，而且通过利用人机交互来提供准确的中间步骤，加快了整个过程。代码和数据将会发布。

提高基于大型语言模型的智能代理计划的效率，减少规划延迟。

通过交互式推测式规划的方法，结合系统设计和人工智能交互，将人的干预作为系统的基本组成部分，提高代理计划的效率。

该方法强调代理系统和用户界面的共同设计，充分利用人在系统中的作用，提供准确的中间步骤。论文提供了代码和数据集。

最近的相关研究包括《A Survey on Planning and Acting in the Real World: The Intersection of AI and Robotics》和《Planning and Acting in Partially Observable Stochastic Domains》等。