Active Diffusion Subsampling

2024年06月20日
  • 简介
    Subsampling通常用于减少数据采集成本,例如时间或能量需求,这促使开发算法从部分观测到的测量$y$中估计完全采样的感兴趣信号$x$。在最大熵采样中,选择预期具有最高熵的测量位置,以最小化对$x$的不确定性。这种方法依赖于关于未来测量的后验分布的准确模型,给定到目前为止观测到的测量。最近,已经展示了扩散模型使用引导扩散产生高质量的高维信号的后验样本。在这项工作中,我们提出了Active Diffusion Subsampling(ADS),一种使用引导扩散执行主动子采样的方法,在反向扩散过程中,模型跟踪对$x$的真实状态的信念分布,通过选择具有最大期望熵的测量来逐渐降低其不确定性,最终生成后验分布$p(x|y)$。ADS可以使用预先训练的扩散模型应用于任何子采样率,并且不需要任务特定的重新训练-只需要指定测量模型。此外,ADS采用的最大熵采样策略是可解释的,相对于使用黑盒策略的现有方法增强了透明度。在实验上,我们展示了ADS优于固定采样策略,并研究了ADS在使用fastMRI数据集的磁共振成像加速中的应用,发现ADS的性能与监督方法相当。代码可在https://active-diffusion-subsampling.github.io/上获得。
  • 图表
  • 解决问题
    本论文试图解决在数据采集过程中,通过最大熵采样方法对部分观测到的测量数据进行估计,从而减少数据采集的成本。
  • 关键思路
    本文提出了一种名为Active Diffusion Subsampling (ADS)的方法,利用预训练的扩散模型进行主动子采样,通过选择具有最大期望熵的测量位置来逐步减少不确定性,从而生成后验分布p(x|y)。
  • 其它亮点
    ADS方法不需要特定任务的重新训练,只需要指定测量模型即可。ADS采用的最大熵采样策略是可解释的,相对于使用黑盒策略的现有方法,具有更高的透明度。实验结果表明,ADS优于固定采样策略,并在fastMRI数据集上进行了应用,发现ADS在MRI加速方面表现出色。
  • 相关研究
    最近在这个领域中,还有一些相关的研究。例如,基于深度学习的主动子采样方法,如Active Learning using Bayesian Deep Convolutional Neural Networks for Image Classification。
PDF
原文
点赞 收藏 评论 分享到Link

沙发等你来抢

去评论