归一化：Layer Normalization、Batch Normalization

罗子僧

 关注

阅读 56

2022-02-22

归一化的核心思想是把一组数据转化为均值为 0，方差为 1 的数据，使得训练数
据在训练过程中尽可能的保持和测试数据拥有相同的分布。

  • 一方面，这样可以减少
    数据的偏差，避免在训练过程中出现梯度爆炸或是梯度消失的问题；
    另一方面，这也是确保模型测试性能的重要假设之一。

相关推荐

批归一化（Batch Normalization）

豆丁趣 112 0 0

【深度学习】batch normalization和layer normalization区别

敬亭阁主 117 0 0

Batch_Normalization 、Layer_Normalization 、Group_Normalization你分的清楚吗

东方小不点 77 0 0

Batch Normalization

伊人幽梦 76 0 0

Batch Normalization 和 Group Normalization

代码敲到深夜 104 0 0

batch normalization

你的益达233 109 0 0

Layer Normalization

eelq 95 0 0

Batch Normalization Fusion

钎探穗 81 0 0

批标准化 (Batch Normalization)

悄然丝语 44 0 0

深度学习Batch Normalization

毅会 36 0 0

精彩评论（0）

0 0 举报