EcoMLS: A Self-Adaptation Approach for Architecting Green ML-Enabled Systems

本文讨论了机器学习系统的可持续性，尤其是在能源效率方面的重要挑战。自适应技术在软件系统中节省能源方面具有潜力，但在机器学习系统中尚未得到广泛应用。运行时的不确定性可能会显著影响模型性能和能源消耗，因此需要一种动态的方法。本文介绍了EcoMLS方法，该方法利用机器学习模型平衡器的概念，通过运行时机器学习模型切换来增强MLS的可持续性。通过适应监测到的运行时条件，EcoMLS可以在能源消耗和模型置信度之间实现最佳平衡，从而实现可持续、节能的机器学习解决方案。通过目标检测示例，我们展示了EcoMLS的应用，证明了其在使用过程中能够降低能源消耗并保持高模型准确性。本研究强调了通过智能运行时适应性来增强MLS可持续性的可行性，为关于节能的机器学习的持续性讨论提供了有价值的观点。

如何提高机器学习系统的可持续性和能效？

利用自适应技术和模型平衡概念进行机器学习模型的动态切换，以在保持模型准确性的同时降低能耗

论文提出了EcoMLS方法，通过动态切换机器学习模型来平衡能耗和模型准确性，实验结果表明该方法能够显著降低能耗而不影响模型准确性，为机器学习的可持续性和能效提供了一种新的解决方案

最近的相关研究包括基于能耗的模型选择和基于模型压缩的能耗优化，例如“Energy-Aware Model Selection for Deep Neural Networks”和“Energy-Efficient Deep Learning: A Survey of State-of-the-Art”。