类神经网络训练不起来怎么办(五)
·
Batch Normalization
Changing Landscape
这样可以有个好的error surface
Feature Normalization
均值变0，标准差变1
Considering deep learning每层都要归一化处理
只考虑一个batch也即是batch normalization
再用β和γ调回去
用训练时积攒的全局均值方差做测试
Internal covariate shift漂移
即第一层权重变化会导致接下去层的变化，batchnorm可以优化这一点
开源鸿蒙跨平台开发社区汇聚开发者与厂商，共建“一次开发，多端部署”的开源生态，致力于降低跨端开发门槛，推动万物智联创新。
更多推荐
3
0- 0
已为社区贡献1条内容
所有评论(0)