pytorch中的BCELoss与BCEWithLogitsLoss实现

import torch
import torch.nn as nn

input = torch.FloatTensor([[ -0.4089,  -1.2471,  0.5907],
        [ -0.4897, -0.8267,  -0.7349],
        [ 0.5241,  -0.1246, -0.4751]])
print(input)
target = torch.FloatTensor([[0, 1, 1],
                            [0, 0, 1],
                            [1, 0, 1]])

m = nn.Sigmoid()
sigmoid_res = m(input)
loss = nn.BCELoss()
# 公式为-1/n * （累加（y*lnx + （1-y）* ln（1-x）））
res = loss(sigmoid_res, target)
print(res)

#BCEWithLogitsLoss就是把Sigmoid-BCELoss合成一步。
loss1 = nn.BCEWithLogitsLoss()
res1 = loss1(input, target)
print(res1) #tensor(0.7193)

res2 = torch.Tensor([0.0])
for i in range(3):
    for j in range(3):
        print(i,j,res2)
        res2 += target[i,j] * torch.log(sigmoid_res[i,j]) + (1-target[i,j]) * torch.log(1-sigmoid_res[i,j])
res2 = -1 * res2 / 9
print('res2', res2)

运行结果：

 参考文献：

1.pytorch中的BCELoss与BCEWithLogitsLoss

2.交叉熵（Cross-Entropy）