标题:梅努斯大学|HEUNNET: EXTENDING RESNET USING HEUN’S METHODS(HEUNNET:使用HEUN方法扩展RESNET)

简介:深度神经网络的ResNet(残差网络)体系结构之间有一个类比以及常微分方程的欧拉求解器。 每层执行的转换类似于欧拉解决常微分方程的步骤。 我们考虑与单个预测器-校正器的Heun方法循环并完成类比,构建了ResNet的预测-校正结构,我们称之为HeunNet。 正如Heun的方法比Euler的方法更准确一样,实验表明HeunNet与两个原始版本相比,以较低的计算(训练和测试)时间实现了高精度递归神经网络和其他ResNet变体。绩效评估证明在解决不同问题的情况下,两个提出的模型都优于现有的递归神经网络。 这提出的模型也花费更少的时间进行训练,并且可以获得更高的准确性。 该架构利用了Heun方法的强度,可确保更高的准确性。

下载链接:https://arxiv.org/pdf/2105.06168v2.pdf

内容中包含的图片若涉及版权问题,请及时与我们联系删除