pytorch（网络模型训练）

上一篇

小插曲

区别

import torch
a&＃61;torch.tensor(5)
print(a)
print(a.item())


import torchoutput&＃61;torch.tensor([[0.1,0.2],[0.05,0.4]])
print(output.argmax(1))# 为1选取每一行最大值的索引&＃xff0c;为0选取每一列最大值的索引preds&＃61;output.argmax(1)
target&＃61;torch.tensor([0,1])
print(preds&＃61;&＃61;target)
print((preds&＃61;&＃61;target).sum())


训练模型

import torch
from torch import nn
from torch.nn import Sequential, Conv2d, MaxPool2d, Linear, Flatten
# 搭建神经网络
class Dun(nn.Module):def __init__(self):super().__init__()# 2.self.model1 &＃61; Sequential(Conv2d(3, 32, 5, padding&＃61;2),MaxPool2d(2),Conv2d(32, 32, 5, padding&＃61;2),MaxPool2d(2),Conv2d(32, 64, 5, padding&＃61;2),MaxPool2d(2),Flatten(),Linear(1024, 64),Linear(64, 10))def forward(self,x):x&＃61;self.model1(x)return x
if __name__&＃61;&＃61;&＃39;__main__&＃39;:dun&＃61;Dun()input&＃61;torch.ones((64,3,32,32))print(dun(input).shape)


数据训练


import torchvision
# 准备数据集
from torch.utils.tensorboard import SummaryWriterfrom model import *
from torch.utils.data import DataLoadertrain_data&＃61;torchvision.datasets.CIFAR10(root&＃61;"./data_set_train",train&＃61;True,transform&＃61;torchvision.transforms.ToTensor(),download&＃61;True)
test_data&＃61;torchvision.datasets.CIFAR10(root&＃61;"./data_set_test",train&＃61;False,transform&＃61;torchvision.transforms.ToTensor(),download&＃61;True)#长度
train_data_size&＃61;len(train_data)
test_data_size&＃61;len(test_data)
print("train_data_size:{}",format(train_data_size))
print("test_data_size:{}",format(test_data_size))# 加载数据集
train_dataloader&＃61;DataLoader(train_data,batch_size&＃61;64)
test_dataloder&＃61;DataLoader(test_data,batch_size&＃61;64)#创建网络模型
dun&＃61;Dun()
#损失函数
loss_fn&＃61;nn.CrossEntropyLoss()
# 优化器
learning_rate&＃61;1e-2
optimizerr&＃61;torch.optim.SGD(dun.parameters(),lr&＃61;learning_rate)
#设置训练网络参数
# 记录训练次数
total_train_step&＃61;0
# 记录测试次数
total_test_step&＃61;0
#训练次数
epoch&＃61;10# 追加tensorboard
writer&＃61;SummaryWriter("./logs")for i in range(epoch):print("----------第{}轮训练------".format(i&＃43;1))# 训练开始dun.train()# 网络模型中&＃xff0c;对dropout、BatchNorm层等起作用&＃xff0c;进入训练状态for data in train_dataloader:img,target&＃61;dataoutput&＃61;dun(img)loss&＃61;loss_fn(output,target)#优化器优化optimizerr.zero_grad()loss.backward()optimizerr.step()total_train_step&＃43;&＃61;1print("训练次数:{},loss:{}".format(total_train_step,loss.item()))writer.add_scalar("train_loss",loss.item(),total_train_step)# 测试步骤total_test_loss&＃61;0# 使用正确率判断模型的好坏total_accuracy&＃61;0dun.eval()# 网络模型中&＃xff0c;对dropout、BatchNorm层等起作用&＃xff0c;进入验证状态with torch.no_grad():for data in test_dataloder:img,target&＃61;dataoutput&＃61;dun(img)total_test_loss&＃43;&＃61;loss_fn(output,target).item()accuracy&＃61;(output.argmax(1)&＃61;&＃61;target).sum()total_accuracy&＃43;&＃61;accuracyprint("整体测试集上的Loss&＃xff1a;{}".format(total_test_loss))writer.add_scalar("test_loss",total_test_loss,total_test_step)print("整体测试集上的正确率&＃xff1a;{}".format(total_accuracy/test_data_size))writer.add_scalar("test_accuracy",total_accuracy/test_data_size,total_test_step)total_test_step&＃43;&＃61;1#保存模型torch.save(dun,"dun{}.pth".format(i))print("保存模型")writer.close()


GPU 训练

第一种方式

将以上的三部分调用cuda方法&＃xff0c;以上面训练数据的代码为例

# 模型
if torch.cuda.is_available():# 判断是否可以使用gpudun&＃61;dun.cuda()
#损失函数
if torch.cuda.is_available():loss_fn&＃61;loss_fn.cuda()
# 数据&＃xff08;包含训练和测试的&＃xff09;if torch.cuda.is_available():img &＃61; img.cuda()target &＃61; target.cuda()


方式二&＃xff1a;

# 定义训练的设备
device&＃61;torch.device("cuda" if torch.cuda.is_available() else "cpu")# 参数分为cpu和cuda&＃xff0c;当显卡多个时cuda:0


将方式一的代码换成

dun&＃61;dun.to(device)
# 其他数据、loss类似


查看GPU信息

完整模型验证

查看数据集CIFAR10的类别

import torchvision
from PIL import Image
import torch
from torch import nn
from torch.nn import Sequential, Conv2d, MaxPool2d, Linear, Flatten
# 搭建神经网络
class Dun(nn.Module):def __init__(self):super().__init__()# 2.self.model1 &＃61; Sequential(Conv2d(3, 32, 5, padding&＃61;2),MaxPool2d(2),Conv2d(32, 32, 5, padding&＃61;2),MaxPool2d(2),Conv2d(32, 64, 5, padding&＃61;2),MaxPool2d(2),Flatten(),Linear(1024, 64),Linear(64, 10))def forward(self,x):x&＃61;self.model1(x)return ximage_path&＃61;"./img/1.png"
image&＃61;Image.open(image_path)
print(image)
# 类型转换
transform&＃61;torchvision.transforms.Compose([torchvision.transforms.Resize((32,32)),torchvision.transforms.ToTensor()])
image&＃61;transform(image)
print(image.shape)# 加载网络模型注意加载的模型和现在验证的要么使用cpu要么gpu一致&＃xff0c;否则需要map——location映射本地的cpu
model&＃61;torch.load("dun0.pth",map_location&＃61;torch.device("cpu"))
print(model)
# 类型转换
image&＃61;torch.reshape(image,(1,3,32,32))model.eval()# 模型转换测试类型
# 执行模型
with torch.no_grad():output&＃61;model(image)
print(output)print(output.argmax(1))