如果X.backward()报错:
grad can be implicitly created only for scalar outputs
加上去 X.backward(torch.ones_like(X)) 即可。
例如这行计算一个线性的求解过程,第14、15行的l(欸哦)张量。
import torch
x_data = [1.0,2.0,3.0]
y_data = [2.0,4.0,6.0]
w = torch.Tensor([0,1])
w.requires_grad = True # 表示此张量需要求梯度
def forward(x):
return x*w # x 不为tensor 会自动转为tensor
def loss(x,y):
y_pred = forward(x)
return (y_pred - y) ** 2
print('predict (before trainning)',4,forward(4)) # 打印的是forward(4).item() 如果没有item将会是一个张量而不是一个值
for eporch in range(100):
for x,y in zip(x_data,y_data):
l = loss(x,y)
l.backward(torch.ones_like(l))
print('tgrad:',x,y,w.grad) # item()同样的,不然打印的是权重W的计算图/矩阵
w.data = w.data - 0.01 * w.grad.data # 更新权重 要更新w.grad.data 更新为反向传播梯度之后的数据
w.grad.data.zero_() # 更新之后要清空反向传播的 ( 根据你的要求来选择)
print('progress:',eporch,l) # 打印迭代次数和损失
print('predict (after trainning)',4,forward(4))
在计算梯度的时候确保L张量
torch.Tensor 是这个包的核心类。如果设置它的属性 .requires_grad 为 True,那么它将会追踪对于该张量的所有操作。当完成计算后可以通过调用 .backward(),来自动计算所有的梯度。这个张量的所有梯度将会自动累加到.grad属性.



