Do Quantum Neural Networks have Simplicity Bias?

2024年07月03日
  • 简介
    本研究探讨了深度神经网络(DNNs)成功的一个假设,即它们具有高度表达性,使其可应用于许多问题,并且具有强烈的归纳偏差,即简单性偏差,这使它们能够在未见过的数据上进行良好的泛化,因为大多数真实世界的数据是结构化的(即简单的)。本研究探讨了量子神经网络(QNNs)的归纳偏差和表达性,这使我们能够将其性能与DNNs进行比较。我们的结果表明,某些QNNs可以具有简单性偏差,但我们证明了这种类型的QNN会限制QNN的表达性。我们还表明,可以具有高表达性的QNN,但它们要么没有归纳偏差,要么归纳偏差较差,与DNNs相比导致更差的泛化性能。我们证明了可以通过有意限制QNN的表达性来产生人工(受限)归纳偏差。我们的结果表明了偏差-表达性的权衡。我们的结论是,我们研究的QNNs通常无法比DNNs提供优势,因为这些QNNs要么具有较差的归纳偏差,要么具有较差的表达性。
  • 图表
  • 解决问题
    比较量子神经网络和深度神经网络的归纳偏见和表达能力
  • 关键思路
    量子神经网络的归纳偏见和表达能力存在折衷关系,无法比深度神经网络表现更好
  • 其它亮点
    实验结果表明,量子神经网络的表达能力和归纳偏见存在折衷关系,无法同时比深度神经网络表现更好;研究者通过限制量子神经网络的表达能力来产生人工归纳偏见;研究者提出的量子神经网络方案要么表达能力差,要么归纳偏见差
  • 相关研究
    近期的相关研究有:《A survey of quantum machine learning》、《Quantum machine learning》
PDF
原文
点赞 收藏 评论 分享到Link

沙发等你来抢

去评论