PeFAD: A Parameter-Efficient Federated Framework for Time Series Anomaly Detection

2024年06月04日
  • 简介
    随着移动感知技术的普及,在各个领域产生了大量的时间序列数据,推动了许多实际应用。在这种情况下,时间序列异常检测具有实际重要性。它试图在时间序列中从正常样本分布中识别出异常样本。现有的方法通常假定所有时间序列都在中央位置可用。然而,由于各种边缘设备的部署,我们正在见证时间序列的分散收集。为了弥合分散的时间序列数据和集中的异常检测算法之间的差距,我们提出了一个名为PeFAD的参数高效联邦异常检测框架,以应对不断增加的隐私问题。PeFAD首次将预训练语言模型(PLM)作为客户端本地模型的主体,可以从其跨模态知识转移能力中受益。为了减少通信开销和本地模型适应成本,我们提出了一个参数高效的联邦训练模块,使客户端只需要微调小规模参数并将其传输到服务器进行更新。PeFAD利用一种新颖的异常驱动掩码选择策略来减轻训练期间忽略的异常的影响。还提出了一种知识蒸馏操作,用于解决跨客户端的数据异质性问题,该操作在所有客户端共享的合成隐私保护数据集上进行。我们在四个真实数据集上进行了广泛的评估,在这些数据集中,PeFAD的表现优于现有的最先进的基线方法,最高可达28.74%。
  • 图表
  • 解决问题
    提出了一个名为PeFAD的参数高效联邦异常检测框架,旨在解决分散收集时间序列数据的异常检测问题。
  • 关键思路
    PeFAD使用预训练语言模型作为客户端本地模型的主体,并提出了一个参数高效的联邦训练模块,以减少通信开销和本地模型适应成本。PeFAD还利用了一种新颖的基于异常驱动的掩码选择策略来缓解训练期间被忽略的异常的影响。
  • 其它亮点
    论文在四个真实数据集上进行了广泛的评估,结果表明PeFAD的性能优于现有的基准线最高达28.74%。PeFAD还提出了在所有客户端之间共享的合成隐私保护数据集上进行的知识蒸馏操作,以解决客户端之间的数据异构性问题。
  • 相关研究
    最近在这个领域的相关研究包括“基于深度学习的异常检测”和“联邦学习的异常检测”。
PDF
原文
点赞 收藏 评论 分享到Link

沙发等你来抢

去评论