HERCULES: Hardware accElerator foR stoChastic schedULing in hEterogeneous Systems

在现代异构计算环境中，尤其是高性能计算（HPC）系统中，高效的工作负载调度是一个关键且具有挑战性的问题。传统的基于软件的调度器由于调度开销高、难以适应动态变化的工作负载以及资源利用率不理想，在均衡分配工作负载方面表现不佳。在异构系统中，这些缺陷尤为严重，因为不同的计算单元性能差异巨大。为了解决这些问题，我们提出了一种全新的基于现场可编程门阵列（FPGA）的随机在线调度（SOS）加速器。 我们通过修改现有的代价方程并使其适配离散化时间，从而改进了贪心代价选择分配策略，并将这一策略应用于硬件加速器设计中。我们的设计利用硬件并行性、预计算和精度量化等手段，显著降低了任务调度的延迟。本文通过引入一种用于实时调度的硬件加速方法，为异构计算系统中的自适应调度机制建立了一个新的范式。 所提出的架构实现了高吞吐量、低延迟和节能的操作，为传统软件调度方法提供了一种可扩展的替代方案。实验结果表明，该方法能够实现均衡的工作负载分布和公平的设备利用率，并相较于单线程的软件调度策略实现在调度速度上最高达1060倍的提升。因此，SOS加速器非常适合部署在高性能计算系统、深度学习流水线以及其他对性能要求苛刻的应用场景中。

论文试图解决现代异构计算环境中工作负载调度效率低下的问题，尤其是在高性能计算（HPC）系统中。传统基于软件的调度器在面对动态工作负载时存在高调度开销、资源利用率低和适应性差的问题，尤其在异构计算系统中，这些问题更加严重。

论文提出了一种基于FPGA的随机在线调度（SOS）加速器，通过将贪婪成本选择分配策略适配到离散时间模型，并利用硬件并行性、预计算和精度量化来降低任务调度延迟。相比传统软件调度方法，该方案在吞吐量、延迟和能效方面均有显著提升。

{实验结果显示，与单线程软件调度策略相比，SOS加速器实现了最高1060倍的速度提升。,设计实现了公平的机器资源利用和一致的工作负载分布。,该方案适用于高性能计算系统、深度学习流水线等对性能要求较高的应用场景。,虽然论文未提及是否开源代码或使用具体数据集，但其提出的硬件加速调度范式具有较强的可扩展性和应用前景。,未来值得进一步研究的方向包括将其扩展到更复杂的异构环境以及结合AI算法进行智能调度优化。}

{"Heterogeneous Computing Scheduling with Reinforcement Learning","Dynamic Resource Scheduling in Cloud and HPC Environments Using Machine Learning","A Survey on Task Scheduling in Heterogeneous Computing Systems","Hardware Acceleration for Real-Time Scheduling in Edge Computing","Energy-Efficient Scheduling Techniques for Heterogeneous Multi-Core Architectures"}