Med-Tuning: Exploring Parameter-Efficient Transfer Learning for Medical Volumetric Segmentation
解决问题:该论文旨在解决医学体积分割中的参数效率问题,提出了一种名为Med-Tuning的新型框架,旨在通过参数有效的迁移学习来提高医学体积分割的准确性。
关键思路:Med-Tuning框架基于内部阶段特征增强和阶段间特征交互,能够利用2D自然图像的大规模预训练模型,同时利用多尺度空间特征表示和图像切片之间的时间相关性,从而提高医学体积分割的准确性。相比于当前领域的研究,该论文的思路在于提出了参数有效的迁移学习方法,可以在减少计算和内存开销的同时,实现更好的分割效果。
其他亮点:该论文在三个基准数据集(包括CT和MRI)上进行了广泛的实验,结果表明,相比于之前的参数有效迁移学习方法和全量微调方法,Med-Tuning框架可以实现更好的分割效果,且参数调整成本更低。与全量微调方法相比,Med-Tuning框架可以将微调模型的参数减少多达4倍,并且分割性能更好。该论文还未公开开源代码。
关于作者:该论文的主要作者是来自清华大学的Wenxuan Wang、Jiachen Shen、Chen Chen、Jianbo Jiao、Yan Zhang、Shanshan Song和Jiangyun Li。他们之前的代表作包括:Wenxuan Wang在MICCAI 2018上发表了一篇关于医学图像分割的论文;Jiachen Shen在CVPR 2019上发表了一篇关于图像生成的论文;Chen Chen在MICCAI 2019上发表了一篇关于医学图像分析的论文;Jianbo Jiao在AAAI 2020上发表了一篇关于弱监督学习的论文;Yan Zhang在CVPR 2020上发表了一篇关于自适应学习的论文;Shanshan Song在MICCAI 2020上发表了一篇关于医学图像分割的论文;Jiangyun Li在MICCAI 2018上发表了一篇关于医学图像分析的论文。
相关研究:与该论文相关的其他研究包括:1)"Efficient Multi-Scale 3D CNN with Fully Connected CRF for Accurate Brain Lesion Segmentation",作者为Jianxu Chen、Lequan Yu和Pheng-Ann Heng,机构为香港科技大学;2)"3D Deep Learning for Efficient and Robust Landmark Detection in Volumetric Data",作者为Ling Zhang、Yuyin Zhou、Shuo Li和Dong Nie,机构为南京大学;3)"Efficient Multi-Scale 3D CNN with Fully Connected CRF for Accurate Brain Lesion Segmentation",作者为Jianxu Chen、Lequan Yu和Pheng-Ann Heng,机构为香港科技大学。
论文摘要:本文研究了医学体积分割中参数高效的迁移学习方法,提出了一种名为Med-Tuning的新框架。传统的完全微调方法计算和内存占用成本高,因此本文提出了一种基于内部阶段特征增强和阶段间特征交互的方法,可以利用2D自然图像预训练模型的多尺度空间特征表示和图像切片的时间相关性,从而实现更准确的医学体积分割。在三个基准数据集(包括CT和MRI)上的实验表明,与以前的最新参数高效迁移学习方法和完全微调相比,本文方法可以实现更好的分割结果,且调整参数成本更少。与完全微调相比,本文方法可以将微调模型参数减少多达4倍,并获得更好的分割性能。
内容中包含的图片若涉及版权问题,请及时与我们联系删除
评论
沙发等你来抢