本文作为总结机器学习、深度学习领域实践过程中各种“大道至简”的炼丹笔记小技巧。

包括:

1、Cyclic LR

2、With Flooding

3、Warmup

4、RAdam

5、Adversarial Training

6、Focal Loss

7、Dropout

8、Normalization

9、  relu 

10、Group Normalization

11、Label Smoothing

12、Skip Connection

13、Weight Initialization

14、Wasserstein GAN

 

详细用法见原文。

 

内容中包含的图片若涉及版权问题,请及时与我们联系删除