torch框架下的函数都进行了封装,使初学者很难清楚内部的数据形式到底是什么,所以,经过了torch框架的练习,这篇文章来解析一下torch框架下的封装函数。
我们打印
print(torch.nn)
print(torch.optim)
print(torch.cuda)
输出结果:
<module 'torch.nn' from 'D:\\Anaconda\\envs\\pytorch\\lib\\site-packages\\torch\\nn\\__init__.py'
<module'torch.optim'from'D:\\Anaconda\\envs\\pytorch\\lib\\sitepackages\\torch\\optim\\__init__.py
<module'torch.cuda'from'D:\\Anaconda\\envs\\pytorch\\lib\\sitepackages\\torch\\cuda\\__init__.py'
nn,optim,cuda均在torch框架下的目录中,函数或类就在目录下的文件中。
1,学习率衰减函数:
#学习率衰减
scheduler = optim.lr_scheduler.StepLR(optimizer, step_size=20, gamma=0.5,last_epoch=-1)
scheduler 对象有以下几个属性:
step():对学习率进行更新
state-dict():状态信息 ,字典格式
print(scheduler.state_dict())
# {'step_size': 20, 'gamma': 0.5, 'base_lrs': [0.01], 'last_epoch': 0, '_step_count': 1, 'verbose': False,
# '_get_lr_called_within_step': False, '_last_lr': [0.01]}
step_size:每经过多少个epoch对学习率进行调整,此时的scheduler.step()放在epoch循环下。
gamma:学习率变成原来的多少
不断的更新完善。耐心等待