由智源社区举办的「智源LIVE 第12期 | 李崇轩:超参优化中双层规划的算法稳定性与泛化」于1月21日(周五)14:30-15:30举办,中国人民大学助理教授李崇轩作主旨报告,介绍他在基于梯度的双层规划算法领域的最新研究进展。

摘要:最近,基于梯度的双层规划框架被广泛应用于不同的超参优化问题并且取得了良好的实践效果。过去的理论工作主要集中于这类算法的优化性质,但是其泛化性能没有得到完善的分析。本次报告会介绍一个基于验证集上的算法稳定性的期望界。该结果可以解释这类算法在实际中的行为,例如过拟合到验证集等。本次报告还会对比该结果和经典交叉验证的期望界,并指出在一定假设下,理论上基于梯度的双层规划应该会优于交叉验证。最后,本次报告会介绍该结果启发的正则化算法,新算法在稳定性理论上更优。这些理论结果在特征提取和数据重加权的实验中得到了验证。

考虑到讲者报告时间有限,欢迎智源社区用户在本贴评论区留言,官方会邀请嘉宾和讲者回复,详情如下:

格式:xx好,我想请问xxx问题;

内容中包含的图片若涉及版权问题,请及时与我们联系删除