pytorch中nn.Dropout的使用技巧

x = torch.randn(20, 16)
dropout = nn.Dropout(p=0.2)
x_drop = dropout(x)

那么，这个操作表示使x每个位置的元素都有一定概率归0，以此来模拟现实生活中的某些频道的数据缺失，以达到数据增强的目的。

每个频道的数据缺失相互独立，以服从伯努利分布的概率值p来进行随机变为0。

也就是说在一张完整特征图中，随机失活一些像素点，以生成残次的特征图，这就是“模拟现实生活中的某些频道的数据缺失”。一句话说明：一个筛子提取特征成为一张纸，一张纸dropout后漏成筛子，然后再提取特征成为一张新的纸，重复这个过程。

参考：pytorch中nn.Dropout的使用技巧_木盏-CSDN博客_dropout pytorchhttps://blog.csdn.net/leviopku/article/details/120786990