Multi-task learning via robust regularized clustering with non-convex group penalties

2024年04月04日
  • 简介
    多任务学习(MTL)旨在通过共享相关任务的共同信息来提高估计和预测性能。MTL中的一个自然假设是,任务根据其特征被分类成簇。然而,基于这个假设的现有MTL方法经常忽略具有大量特定任务组件或与其他任务没有关系的异常任务。为了解决这个问题,我们提出了一种新的MTL方法,称为多任务学习通过鲁棒正则化聚类(MTLRRC)。MTLRRC结合了鲁棒正则化项,灵感来自于鲁棒凸聚类,进一步扩展为处理非凸和群稀疏惩罚。这种扩展允许MTLRRC同时执行鲁棒任务聚类和异常任务检测。扩展的鲁棒聚类与多元M-估计器之间的联系也被建立。这提供了MTLRRC对异常任务的鲁棒性的解释。基于修改的多重器方向方法的高效算法被开发用于参数的估计。MTLRRC的有效性通过模拟研究和应用于实际数据得到了证明。
  • 图表
  • 解决问题
    该论文提出了一种新的多任务学习(MTL)方法,名为多任务学习通过鲁棒正则化聚类(MTLRRC),旨在解决现有MTL方法中忽略异常任务的问题。
  • 关键思路
    MTLRRC采用鲁棒正则化项,结合非凸和分组稀疏惩罚,以同时进行鲁棒任务聚类和异常任务检测。该方法的有效性通过模拟研究和实际数据应用得到了证明。
  • 其它亮点
    论文中提出的MTLRRC方法具有鲁棒性,能够处理异常任务的影响;同时,该方法还与多元M-估计器有关,具有解释性。论文还介绍了基于修改的交替方向乘子法的高效算法,用于参数估计。实验结果表明,MTLRRC方法在多个数据集上都具有较好的性能。
  • 相关研究
    在这个领域中,最近的相关研究包括《A Survey on Multi-Task Learning》和《Deep Multi-Task Learning: A Survey》等。
PDF
原文
点赞 收藏 评论 分享到Link

沙发等你来抢

去评论