栏目分类:
子分类:
返回
名师互学网用户登录
快速导航关闭
当前搜索
当前分类
子分类
实用工具
热门搜索
名师互学网 > IT > 软件开发 > 后端开发 > Python

Pytorch训练过程中GPU显存不断增加的解决方案

Python 更新时间: 发布时间: IT归档 最新发布 模块sitemap 名妆网 法律咨询 聚返吧 英语巴士网 伯小乐 网商动力

Pytorch训练过程中GPU显存不断增加的解决方案

Pytorch训练过程中显存不断增加原因之一

在使用pytorch利用测试集进行网络预测时,给网络输入数据,默认会构建计算图,构建计算图是为了方便后续的反向传播进行梯度计算,如果只是为了利用网络进行预测,则不需要构建完整的计算图。构建完整计算图会增加计算和累积内存消耗,导致所占GPU显存越来越大。

解决方案
在测试代码处于如下命令下:

with torch.no_grad():

例如:

with torch.no_grad():
	prediction = net(images)
	loss = loss_func(prediction , label) / batch_size
转载请注明:文章转载自 www.mshxw.com
本文地址:https://www.mshxw.com/it/889543.html
我们一直用心在做
关于我们 文章归档 网站地图 联系我们

版权所有 (c)2021-2022 MSHXW.COM

ICP备案号:晋ICP备2021003244-6号