Game-Theoretic Deep Reinforcement Learning to Minimize Carbon Emissions and Energy Costs for AI Inference Workloads in Geo-Distributed Data Centers

2024年04月01日
  • 简介
    数据中心由于人工智能(AI)工作负载的增加而越来越多地使用能源,这对环境产生了负面影响,并增加了运营成本。在保持数据中心性能的同时,降低运营费用和碳排放是一个具有挑战性的问题。本研究提出了一种独特的方法,将博弈论(GT)和深度强化学习(DRL)相结合,优化地理分布式数据中心中AI推理工作负载的分配,以降低碳排放和云运营(能源+数据传输)成本。所提出的技术将非合作博弈论的原则融入到DRL框架中,使数据中心能够在考虑硬件资源的异质性、电力价格的动态性、数据中心间数据传输成本和碳足迹的情况下做出智能的工作负载分配决策。我们进行了广泛的实验,将我们的博弈论DRL(GT-DRL)方法与当前的DRL方法和其他优化技术进行了比较。结果表明,我们的策略在降低碳排放和最小化云运营成本方面优于现有技术,并且不会影响计算性能。这项研究对于实现处理分布在不同地理位置的AI推理工作负载的数据中心的可持续性和成本效益具有重要意义。
  • 图表
  • 解决问题
    优化分布式数据中心中的AI推理工作负载以降低碳排放和云计算成本
  • 关键思路
    将博弈论和深度强化学习相结合,提出了一种独特的方法来优化AI推理工作负载的分配,考虑到硬件资源的异质性、电力价格的动态性、数据中心之间的数据传输成本和碳足迹
  • 其它亮点
    该方法在减少碳排放和最小化云计算成本方面优于现有的DRL和其他优化技术,同时不会影响计算性能。
  • 相关研究
    最近的相关研究包括“Optimizing Data Center Energy Efficiency through Hybrid Cloud Computing”和“Energy-efficient resource allocation in distributed cloud data centers with deep reinforcement learning”。
PDF
原文
点赞 收藏 评论 分享到Link

沙发等你来抢

去评论