栏目分类:
子分类:
返回
名师互学网用户登录
快速导航关闭
当前搜索
当前分类
子分类
实用工具
热门搜索
名师互学网 > IT > 软件开发 > 后端开发 > Python

pytorch 负对数似然损失和交叉熵损失

Python 更新时间: 发布时间: IT归档 最新发布 模块sitemap 名妆网 法律咨询 聚返吧 英语巴士网 伯小乐 网商动力

pytorch 负对数似然损失和交叉熵损失

一.负对数似然

 

似然是已知数据,推参数,我们通过极小化负对数似然(最大似然),来求最佳的模型参数

二.交叉熵损失

而在训练过程中,标签通常采用one-hot编码表示,而样本真实分布的概率,这样交叉熵的表示形式其实是跟负对数似然一样的

三.pytorch实现的区别

1.在使用nn.NLLLoss()是,需要结合nn.LogSoftmax()一起使用,而nn.CrossEntropyLoss()不需要。
2.使用nn.CrossEntropyLoss()时,网络的最后一层不需要加softmax层。
3.使用nn.NLLLoss()是,标签不能使用one-hot编码标签,在使用nn.CrossEntropyLoss()时,可以使用one-hot标签,也可以不使用one-hot标签。
 

转载请注明:文章转载自 www.mshxw.com
本文地址:https://www.mshxw.com/it/935358.html
我们一直用心在做
关于我们 文章归档 网站地图 联系我们

版权所有 (c)2021-2022 MSHXW.COM

ICP备案号:晋ICP备2021003244-6号