xLAM: A Family of Large Action Models to Empower AI Agent Systems

自然语言处理技术驱动的自主智能体引起了广泛的研究兴趣。然而，开源社区在开发专门用于智能体任务的模型时面临许多挑战，这是由于高质量智能体数据集的稀缺性和该领域缺乏标准协议所导致的。我们介绍并公开发布了xLAM，这是一系列专门为AI智能体任务设计的大型动作模型。xLAM系列包括五个模型，具有密集和专家混合结构，参数范围从1B到8x22B，使用可扩展、灵活的流程进行训练，统一、增强和合成各种数据集以增强AI智能体在不同环境中的通用性和性能。我们的实验结果表明，xLAM在多个智能体能力基准测试中始终表现出色，特别是在Berkeley函数调用排行榜上获得第一名，在工具使用方面优于GPT-4、Claude-3和许多其他模型。通过发布xLAM系列，我们旨在推进开源自然语言处理技术驱动的自主智能体的性能，可能加速进展并使智能体任务的高性能模型更加民主化。模型可在https://huggingface.co/collections/Salesforce/xlam-models-65f00e2a0a63bbcd1c2dade4获取。

论文旨在解决开源社区在开发用于AI代理任务的专门模型时所面临的挑战，包括高质量的数据集稀缺和缺乏标准协议等问题。

xLAM系列是一系列用于AI代理任务的大型行动模型，包括5个模型，使用可扩展的、灵活的流水线训练，以增强AI代理的泛化能力和性能。

xLAM系列在多个代理能力基准测试中表现出色，特别是在工具使用方面表现出色，超越了GPT-4、Claude-3等许多模型。该论文公开了xLAM系列，旨在推进开源LLMs的性能，加速进展并为代理任务提供高性能模型。

最近的相关研究包括大型语言模型的应用，如GPT-3和GPT-4，以及用于AI代理任务的其他模型，如Claude-3。