- 简介建模随机且不规则采样的时间序列是一个在广泛的应用中发现的具有挑战性的问题,特别是在医学领域。神经随机微分方程(Neural SDEs)是解决这一问题的一种有吸引力的建模技术,它使用神经网络参数化SDE的漂移项和扩散项。然而,当前训练Neural SDEs的算法需要通过SDE的动力学进行反向传播,这极大地限制了它们的可扩展性和稳定性。为了解决这一问题,我们提出了轨迹流匹配(Trajectory Flow Matching, TFM),这是一种无需模拟的方式训练Neural SDE的方法,绕过了通过动力学的反向传播。TFM利用生成模型中的流匹配技术来建模时间序列。在这项工作中,我们首先建立了TFM学习时间序列数据所需的条件。接着,我们提出了一种重参数化技巧,以提高训练的稳定性。最后,我们将TFM适应于临床时间序列场景,在三个临床时间序列数据集上展示了改进的性能,无论是在绝对性能还是不确定性预测方面。
- 图表
- 解决问题该论文旨在解决在医学等应用中常见的随机和不规则采样时间序列建模问题。现有的神经随机微分方程(Neural SDEs)训练算法由于需要通过SDE动力学进行反向传播,导致可扩展性和稳定性受限。
- 关键思路论文提出了一种名为轨迹流匹配(Trajectory Flow Matching, TFM)的新方法,可以在不进行模拟的情况下训练Neural SDEs,从而避免了通过动力学进行反向传播。TFM利用生成模型中的流匹配技术来建模时间序列数据,提高了训练的稳定性和效率。
- 其它亮点1. 论文首先建立了TFM学习时间序列数据的必要条件。 2. 提出了一种重参数化技巧,以提高训练的稳定性。 3. 将TFM适应于临床时间序列场景,并在三个临床时间序列数据集上展示了改进的性能,不仅在绝对性能上有所提升,而且在不确定性预测方面也表现出色。 4. 实验设计包括多个临床数据集,验证了方法的有效性。 5. 代码已开源,方便其他研究者复现和进一步研究。
- 1. "Neural Ordinary Differential Equations" - Chen et al., 2018 2. "FFJORD: Free-form Continuous Dynamics for Scalable Reversible Generative Models" - Grathwohl et al., 2019 3. "Stochastic Neural Networks with Monotonic Activation Functions" - Li et al., 2020 4. "Neural Stochastic Differential Equations: Deep Latent Gaussian Models in Spatio-Temporal Domains" - Tzen et al., 2019
沙发等你来抢
去评论
评论
沙发等你来抢