Mergenetic: a Simple Evolutionary Model Merging Library

模型合并技术能够在无需额外训练的情况下，将现有模型的能力整合到一个新的模型中。由于其低成本以及支持在消费级 GPU 上进行合并的库的可用性，这一技术正变得越来越受欢迎。近期的研究表明，将模型合并与进化算法相结合可以提升性能，但目前尚无任何框架能够支持在语言模型中灵活实验此类策略。我们引入了 Mergenetic，这是一个开源的进化模型合并库。Mergenetic 能够方便地组合合并方法和进化算法，同时通过集成轻量级适应度评估器来降低评估成本。我们详细描述了其设计，并展示了 Mergenetic 在使用 modest 硬件的情况下，能够在多种任务和语言上取得具有竞争力的结果。

该论文试图解决如何通过模型合并和进化算法在语言模型中提升性能的问题。这是一个相对较新的问题，特别是在结合进化算法优化模型合并策略方面。

论文的关键思路是引入了一个名为Mergenetic的开源库，它允许灵活组合模型合并方法与进化算法，并使用轻量级适应度估计器降低评估成本。相比当前研究，Mergenetic提供了更易用的框架来探索这些策略，同时能够在低成本硬件上实现高性能结果。

论文设计了系统化的实验，验证了Mergenetic在多种任务和语言上的有效性。实验使用了常见的语言模型数据集，并且项目已开源，方便后续研究者复现和改进。未来值得深入研究的方向包括进一步优化进化算法以及扩展到多模态模型。

近期相关研究包括《Evolutionary Model Composition for Efficient Transfer Learning》和《Model Fusion with Knowledge Distillation》等。这些研究主要集中在利用进化算法或知识蒸馏技术优化模型合并过程，但缺乏一个统一的框架支持灵活实验。