More Agents Is All You Need

我们发现，仅通过抽样和投票的方法，大型语言模型（LLMs）的性能随着实例化的代理数量而扩展。此外，这种方法与现有的复杂方法是正交的，可以进一步增强LLMs，而增强的程度与任务难度相关。我们在广泛的LLM基准测试上进行了全面的实验，以验证我们的发现，并研究可以促进其发生的属性。我们的代码可在以下网址公开获取：\url{https://anonymous.4open.science/r/more_agent_is_all_you_need}。

论文旨在探讨大型语言模型（LLMs）性能与实例数量之间的关系，并验证这种方法的可行性。这是一个新问题吗？

通过采样和投票的方法，可以简单地提高LLMs的性能，并且这种方法与现有的复杂方法相互独立。这是一种新思路吗？

论文通过广泛的实验验证了这种方法的可行性，并研究了促进其发生的属性。他们的代码是公开的，并且使用了多个LLMs基准测试数据集。值得继续深入研究。

在这个领域中，最近的相关研究包括：1.《Scaling Laws for Neural Language Models》2.《GShard: Scaling Giant Models with Conditional Computation and Automatic Sharding》3.《Megatron-LM: Training Multi-Billion Parameter Language Models Using Model Parallelism》