DynST: Dynamic Sparse Training for Resource-Constrained Spatio-Temporal Forecasting

传感器服务不断增加，虽然为深度学习导向的地球科学开辟了宝贵的道路并提供了大量的地球系统数据，但不幸的是，这也给它们的产业级部署带来了困难的障碍。具体来说，地球科学系统严重依赖于传感器的广泛部署，然而，由于复杂的地理和社会因素，传感器数据的收集受到限制，使得全面覆盖和统一部署变得具有挑战性。为了减轻这一障碍，传统的传感器部署方法利用特定的算法来设计和部署传感器。这些方法动态调整传感器的激活时间，以优化每个子区域的检测过程。遗憾的是，制定激活策略通常基于历史观测和地理特征，使得这些方法和所得到的模型既不简单也不实用。更糟糕的是，复杂的技术设计最终可能导致模型的泛化能力较弱。在本文中，我们首次引入了时空数据动态稀疏训练的概念，并致力于自适应、动态地过滤重要的传感器分布。据我们所知，这是第一个在数据层面上提出的产业级部署优化概念（称为DynST）。然而，由于存在时间维度，对时空数据进行修剪可能会导致不同时间戳之间的冲突。为了实现这个目标，我们采用了动态合并技术，以及巧妙的维度映射来缓解时间因素可能引起的潜在影响。在训练过程中，DynST利用迭代修剪和稀疏训练，不断识别和动态删除对未来预测贡献最小的传感器感知区域。

论文旨在解决地球科学中传感器部署的问题，提出了一种新的动态稀疏训练方法（DynST）来优化传感器的覆盖和部署。

论文提出了一种基于动态合并技术和巧妙的维度映射的动态稀疏训练方法DynST，通过迭代剪枝和稀疏训练，动态地筛选重要的传感器分布，以优化传感器的部署和覆盖。

论文的实验结果表明，DynST方法在不同的数据集和任务上都能够有效地优化传感器的部署和覆盖，同时保持良好的预测性能。此外，论文还提供了开源代码和数据集，为相关研究提供了重要的参考。

近期的相关研究包括《Deep Reinforcement Learning for Dynamic Sensor Management in IoT Networks》和《Efficient Sensor Placement for Intrusion Detection using Deep Reinforcement Learning》等。