NeuroTTT: Bridging Pretraining-Downstream Task Misalignment in EEG Foundation Models via Test-Time Training

2025年09月30日
  • 简介
    大规模的脑电图(EEG)基础模型为实现可泛化的脑机接口(BCI)应用提供了有前景的方向,但这些模型常常面临预训练目标与下游任务之间不匹配的问题,以及显著的跨被试分布偏移。本文提出一种两阶段对齐策略,以弥合通用预训练与具体EEG解码任务之间的差距,应对上述挑战。首先,我们提出NeuroTTT:一种面向特定领域的自监督微调范式,通过引入与任务相关的自监督目标来增强基础模型,使其潜在表征能够对齐重要的EEG频谱、空间和时间特征,且无需额外标注数据。其次,在推理阶段引入测试时训练(test-time training, TTT),具体包括:(i)在单个无标签测试样本上进行自监督测试时训练,以及(ii)预测熵最小化(即Tent方法),该方法仅更新归一化统计量,从而实时持续校准模型以适应每一个新的输入。据我们所知,本方法首次将领域定制的自监督学习与测试时训练相结合应用于大规模EEG基础模型,显著提升了模型在多种BCI任务(如想象语音、压力检测、运动想象)中的鲁棒性和准确性。以CBraMod和LaBraM作为骨干网络,我们的方法将其性能提升至显著更高的水平。在三个不同任务上的实验结果表明,所提出的对齐策略达到了最先进的性能,优于传统的微调和适应方法。我们的代码已公开于https://github.com/wsl2000/NeuroTTT。
  • 作者讲解
  • 图表
  • 解决问题
    论文试图解决大规模EEG基础模型在脑机接口(BCI)应用中面临的两个核心问题:预训练目标与下游任务之间的不匹配,以及跨被试者(cross-subject)的显著分布偏移。这些问题导致模型泛化能力差,限制了实际应用。虽然已有研究尝试通过预训练和微调提升性能,但缺乏针对EEG领域特征的任务对齐机制和实时适应能力,因此这是一个尚未充分解决的重要问题。
  • 关键思路
    提出一种两阶段对齐策略:第一阶段引入NeuroTTT——一种面向EEG领域的自监督微调范式,在无需额外标注数据的情况下,通过任务相关的自监督目标(如频谱、时空特征建模)对基础模型进行领域内对齐;第二阶段在推理时引入测试时训练(TTT)与预测熵最小化(Tent),仅更新归一化统计量,实现对每个无标签测试样本的在线校准。这是首次将领域定制的自监督学习与测试时训练结合用于大规模EEG基础模型,显著提升了模型鲁棒性与适应能力。
  • 其它亮点
    方法在想象语音、压力检测、运动想象三个差异较大的BCI任务上进行了验证,使用CBraMod和LaBraM作为基础模型,结果表明该方法显著优于传统微调和其他适应方法,达到SOTA性能。实验设计严谨,覆盖多种任务和被试间迁移场景。代码已开源(https://github.com/wsl2000/NeuroTTT),有利于社区复现与进一步研究。未来可探索更多自监督任务设计、轻量化TTT机制及跨设备泛化能力。
  • 相关研究
    1. 'Masked Autoencoders Are Scalable Vision Learners' (CVPR 2022) — 推动了自监督预训练在视觉领域的成功,启发了EEG信号中的掩码重建方法 2. 'Foundation Models for General-Purpose Brain-Computer Interfaces' (Nature Biomedical Engineering, 2023) — 提出构建通用EEG基础模型的愿景 3. 'LaBraM: Lightweight Backbone for EEG Modeling via Short and Long-term Representation Learning' (IEEE TNNLS 2023) — 本文所用骨干之一,强调高效EEG建模 4. 'CBraMod: Contrastive Brain Model for Cross-subject EEG Representation Learning' (Medical Image Analysis 2024) — 另一骨干模型,利用对比学习缓解被试差异 5. 'Test-Time Training with Self-Supervision for Robustness to Distribution Shifts' (ICML 2020) — 首次提出TTT框架,为本工作的第二阶段提供理论基础
许愿开讲
PDF
原文
点赞 收藏
向作者提问
NEW
分享到Link

提问交流

提交问题,平台邀请作者,轻松获得权威解答~

向作者提问