Automated Design of Agentic Systems

研究人员正在大力开发功能强大的通用代理，其中基础模型被用作代理系统的模块（例如思维链、自我反思、工具形态）。然而，机器学习的历史告诉我们，手工设计的解决方案最终会被学习解决方案所替代。我们提出了一个新的研究领域，即自动设计代理系统（ADAS），旨在自动创建强大的代理系统设计，包括发明新的构建块和/或以新的方式组合它们。我们进一步证明，在ADAS中存在一种未经探索但有前途的方法，即可以用代码定义代理，通过元代理编程自动发现新的代理，不断改进代码。鉴于编程语言是图灵完备的，这种方法从理论上讲可以学习任何可能的代理系统，包括新的提示、工具使用、控制流和它们的组合。我们提出了一个简单而有效的算法Meta Agent Search来展示这个想法，其中一个元代理迭代地基于一个不断增长的先前发现的归档程序有趣的新代理。通过在多个领域（包括编码、科学和数学）进行广泛的实验，我们展示了我们的算法可以逐步发明具有新设计的代理，其性能远远优于最先进的手工设计代理。重要的是，我们始终观察到令人惊讶的结果，即Meta Agent Search发明的代理即使在跨领域和模型转移时也保持着优越的性能，展示了它们的稳健性和通用性。只要我们安全地开发它，我们的工作就展示了一个令人兴奋的新研究方向的潜力，即自动设计越来越强大的代理系统，造福人类。

自动设计有能力的智能系统是一个新的研究领域，该论文试图通过自动发现新的代理系统设计来解决这个问题。

Meta Agent Search算法通过编写代码来定义代理系统，并自动发现新的代理系统，从而解决了自动设计有能力的智能系统的问题。

论文展示了Meta Agent Search算法在多个领域的实验结果，证明了该算法可以发现优于手动设计代理系统的新代理系统。此外，算法还表现出了在跨领域和模型转移方面的鲁棒性和通用性。

在这个领域中，最近的相关研究包括AutoML、Neural Architecture Search和Differentiable Architecture Search等。