标题:阿姆斯特丹自由大学|Generalizing MLPs With Dropouts, Batch Normalization, and Skip Connections(使用Dropouts、批量规范化和跳过连接泛化MLP)

推荐理由:使用MLP网络取得了二分类数据集上的最佳效果

作者:Taewoon Kim

简介:多层感知器 (MLP) 通常由多个完全连接的具有非线性激活函数的层, 已经有几种方法使它们更好(例如更快的收敛,更好的收敛限制等),但是这些研究缺乏结构化的方法来测试它们。 我们测试不同的MLP通过对年龄和性别数据集进行实验来构建架构。 我们经验表明,通过在每个线性层之前白化输入并添加跳过连接,提出的MLP架构可以带来更好的性能。由于白化过程包括Dropouts,它也可以用来近似贝叶斯推理。

代码下载:https://github.com/tae898/age-gender/

论文下载:https://arxiv.org/pdf/2108.08186v2.pdf

内容中包含的图片若涉及版权问题,请及时与我们联系删除