澳大利亚科学院院士、悉尼大学教授陶大程等撰写的关于《深度学习理论综述论文》,非常值得关注。
深度学习通常被描述为一个实验驱动的领域,并不断受到缺乏理论基础的批评。这个问题已经部分地被大量的文献解决了,这些文献至今没有被很好地组织起来。本文对深度学习理论的最新进展进行了综述和整理。文献可分为六类:
(1)基于模型复杂度和容量的深度学习泛化; (2)用于建模随机梯度下降及其变量的随机微分方程及其动力学系统,其特征是深度学习的优化和泛化,部分受到贝叶斯推理启发; (3)驱动动力系统轨迹的损失的几何结构; (4)深度神经网络的过参数化从积极和消极两个方面的作用; (5)网络架构中几种特殊结构的理论基础; (6)对伦理和安全及其与泛化性的关系的日益关注。
地址: https://www.zhuanzhi.ai/paper/b5ac0f259b59817b890b6c253123ee84
内容中包含的图片若涉及版权问题,请及时与我们联系删除
评论
沙发等你来抢