热门标签 | HotTags
当前位置:  开发笔记 > 编程语言 > 正文

torch.nn.CrossEntropyLoss()参数、计算过程、输入输出形状loss中y_pred和y形状不一致

结论nn.CrossEntropyLoss(y_pred,y_label)的顺序不要搞错y_pred的形状(N,分类数),一般为(batch,分类数),如全连接网络输出MINI




结论

nn.CrossEntropyLoss (y_pred, y_label)的顺序不要搞错

y_pred的形状(N,分类数),一般为(batch,分类数),如全连接网络输出MINIST手写数字中的(64,10)
y_label在pytorch中允许两种形式的输入



  1. 输入索引,形状为(batch),如MINIST手写数字中的(64)。CrossEntropyLoss会自动处理为one-hot编码进行计算,标签索引须为int类型,即LongTensor


  2. 输入标签的one-hot编码,形状为(batch,分类数),如MINIST手写数字中的(64,10)



损失函数输入及输出的Tensor形状

import torch
from torch import nn, optim
loss_func = nn.CrossEntropyLoss()
pre_data = torch.tensor([[0.8, 0.5, 0.2, 0.5],
[0.2, 0.9, 0.3, 0.2],
[0.4, 0.3, 0.7, 0.1],
[0.1, 0.2, 0.4, 0.8]], dtype=torch.






推荐阅读
author-avatar
bale999_816
这个家伙很懒,什么也没留下!
PHP1.CN | 中国最专业的PHP中文社区 | DevBox开发工具箱 | json解析格式化 |PHP资讯 | PHP教程 | 数据库技术 | 服务器技术 | 前端开发技术 | PHP框架 | 开发工具 | 在线工具
Copyright © 1998 - 2020 PHP1.CN. All Rights Reserved | 京公网安备 11010802041100号 | 京ICP备19059560号-4 | PHP1.CN 第一PHP社区 版权所有