神经网络优化器选择

[continue]

优化器选择？不存在的，这是一个玄学问题，RMSP、Adam无脑参数暴力搜一波，完事了。SGD貌似有时候不太好调。

关于Adam

这里有一篇解释很到位的文章：https://segmentfault.com/a/1190000012668819

谁有好思路，求教！！！