FedRDMA: Communication-Efficient Cross-Silo Federated LLM via Chunked RDMA Transmission

本文提出了FedRDMA，一种通信效率高的跨边缘学习系统，将RDMA集成到FL通信协议中。由于人工智能模型的规模不断增加，通信开销已成为联邦学习中的重要瓶颈。为了克服RDMA在广域网中的限制，FedRDMA将更新后的模型分成块，并设计了一系列优化技术来提高基于RDMA的通信的效率和鲁棒性。我们在工业联邦学习框架上实现了FedRDMA，并在实际的跨边缘学习场景中进行了评估。实验结果表明，与传统的基于TCP/IP的FL系统相比，FedRDMA可以实现高达3.8倍的通信效率提升。

FedRDMA: A Communication-Efficient Cross-Silo Federated Learning System via RDMA

使用RDMA技术来提高跨边缘设备联邦学习的通信效率

使用RDMA技术，将更新的模型分成块，并设计了一系列优化技术来提高RDMA通信的效率和鲁棒性，实验结果表明与传统TCP/IP-based FL系统相比，FedRDMA可以实现高达3.8倍的通信效率提升。

最近的相关研究包括： 1. Communication-Efficient Learning of Deep Networks from Decentralized Data 2. Federated Learning: Strategies for Improving Communication Efficiency 3. Federated Learning with Non-IID Data: An Empirical Study