栏目分类:
子分类:
返回
名师互学网用户登录
快速导航关闭
当前搜索
当前分类
子分类
实用工具
热门搜索
名师互学网 > IT > 软件开发 > 后端开发 > Python

pytorch中计算backward时产生的报错:grad can be implicitly created only for scalar outputs 的解决办法

Python 更新时间: 发布时间: IT归档 最新发布 模块sitemap 名妆网 法律咨询 聚返吧 英语巴士网 伯小乐 网商动力

pytorch中计算backward时产生的报错:grad can be implicitly created only for scalar outputs 的解决办法

如果X.backward()报错:

grad can be implicitly created only for scalar outputs 

加上去 X.backward(torch.ones_like(X)) 即可。

例如这行计算一个线性的求解过程,第14、15行的l(欸哦)张量。

import torch

x_data = [1.0,2.0,3.0]
y_data = [2.0,4.0,6.0]

w = torch.Tensor([0,1])
w.requires_grad = True           #   表示此张量需要求梯度
 
def forward(x):
    return x*w              # x 不为tensor  会自动转为tensor

def loss(x,y):
    y_pred = forward(x)
    return (y_pred - y) ** 2

print('predict (before trainning)',4,forward(4))    # 打印的是forward(4).item() 如果没有item将会是一个张量而不是一个值

for eporch in range(100):
    for x,y in zip(x_data,y_data):
        l = loss(x,y) 
        l.backward(torch.ones_like(l))
        print('tgrad:',x,y,w.grad)             # item()同样的,不然打印的是权重W的计算图/矩阵
        w.data = w.data - 0.01 * w.grad.data           # 更新权重 要更新w.grad.data  更新为反向传播梯度之后的数据
        
        w.grad.data.zero_()                              # 更新之后要清空反向传播的  ( 根据你的要求来选择)
        
    print('progress:',eporch,l)                # 打印迭代次数和损失
    
print('predict (after trainning)',4,forward(4))

在计算梯度的时候确保L张量

torch.Tensor 是这个包的核心类。如果设置它的属性 .requires_grad 为 True,那么它将会追踪对于该张量的所有操作。当完成计算后可以通过调用 .backward(),来自动计算所有的梯度。这个张量的所有梯度将会自动累加到.grad属性.

转载请注明:文章转载自 www.mshxw.com
本文地址:https://www.mshxw.com/it/1001588.html
我们一直用心在做
关于我们 文章归档 网站地图 联系我们

版权所有 (c)2021-2022 MSHXW.COM

ICP备案号:晋ICP备2021003244-6号