暂无图片
优化神经网络训练方法有哪些?
我来答
分享
人工智能技术与咨询
2022-09-06
优化神经网络训练方法有哪些?

优化神经网络训练方法有哪些?

我来答
添加附件
收藏
分享
问题补充
1条回答
默认
最新
人工智能

1 考虑换一种学习率 schedule
2 在 DataLoader 中使用多个 worker 和页锁定内存
3 把 batch 调到最大
4 使用自动混合精度(AMP)
5 考虑使用另一种优化器
6 cudNN 基准
7 使用梯度积累
8 使用梯度裁剪

暂无图片 评论
暂无图片 有用 0
愤怒的蜗牛
2022-09-06
学习一下
回答交流
提交
问题信息
请登录之后查看
邀请回答
暂无人订阅该标签,敬请期待~~
暂无图片墨值悬赏