0
点赞
收藏
分享

微信扫一扫

神经网络中的权重和偏置初始化

    for m in self.modules():
        if isinstance(m, nn.Conv2d):
            n = m.kernel_size[0] * m.kernel_size[1] * m.out_channels
            m.weight.data.normal_(0, math.sqrt(2. / n))
        elif isinstance(m, nn.BatchNorm2d):
            m.weight.data.fill_(1)
            m.bias.data.zero_()

在这里插入图片描述

model = torch.nn.DataParallel(model).cuda()

在这里插入图片描述

举报

相关推荐

0 条评论