目录

1.思路和流程分析

2.准备训练集和测试集

2.1 torchvision.transforms的图形数据处理方法

2.1.1 torchvison.transforms.ToTensor

2.1.2 torchvision.transforms.Normalize(mean,std)

2.1.3 torchvision.transforms.Compose(transforms)

2.2 准备MNIST数据集的Dataset和DataLoader

3.构建模型

3.1 激活函数的使用

3.2 模型中数据的形状&＃xff08;【添加形状变化图形】&＃xff09;

3.3 模型的损失函数

4.模型的训练

5.模型的保存和加载

5.1 模型的保存

5.2 模型的加载

6.模型的评估

7.总的代码

1.思路和流程分析

2.准备训练集和测试集

2.1 torchvision.transforms的图形数据处理方法

2.1.1 torchvison.transforms.ToTensor

from torchvision.datasets import MNIST
mnist&＃61;MNIST(root&＃61;r&＃39;D:\各种编译器的代码\pythonProject12\机器学习\NLP自然语言处理\datas&＃39;,train&＃61;True,download&＃61;True,transform&＃61;None)#len(mnist)&＃61;&＃61;60000
print(mnist[0])#(, 5)
img&＃61;mnist[0][0]
img.show()#打开图片

from torchvision import transforms
import numpy as np
data&＃61;np.random.randint(0,255,size&＃61;12)
img&＃61;data.reshape(2,2,3)
print(img.shape)
img_tensor&＃61;transforms.ToTensor()(img)#转换成tensor
print(img_tensor)
print(img_tensor.size())

输出如下&＃xff1a;

(2, 2, 3)
tensor([[[235, 30],[236, 92]],[[ 1, 113],[ 53, 5]],[[ 21, 190],[ 46, 11]]], dtype&＃61;torch.int32)
torch.Size([3, 2, 2])

2.1.2 torchvision.transforms.Normalize(mean,std)

from torchvision import transforms
import numpy as np
import torchvision
data&＃61;np.random.randint(0,255,size&＃61;12)
img&＃61;data.reshape(2,2,3)
img&＃61;transforms.ToTensor()(img)#转换成tensor
print(img)
print(&＃39;*&＃39;*100)
norm_img&＃61;transforms.Normalize((10,10,10),(1,1,1))(img)#进行规范化处理
print(norm_img)

2.1.3 torchvision.transforms.Compose(transforms)

transforms.Compose([torchvision.transforms.ToTensor(),#先转换为Tensortorchvision.transforms.Normalize(mean,std)#再进行正则化
])

2.2 准备MNIST数据集的Dataset和DataLoader

准备训练集&＃xff1a;

from torchvision.datasets import MNIST
from torchvision.transforms import Compose,ToTensor,Normalize
from torch.utils.data import DataLoaderBATCH_SIZE&＃61;128
#1.准备数据
def get_dataloader(train&＃61;True):transform_fn &＃61; Compose([ToTensor(),Normalize(mean&＃61;(0.1307,), std&＃61;(0.3081,)) # mean std的形状和通道数相同])dataset &＃61; MNIST(root&＃61;r&＃39;D:\各种编译器的代码\pythonProject12\机器学习\NLP自然语言处理\datas&＃39;, train&＃61;True, transform&＃61;transform_fn)data_loader &＃61; DataLoader(dataset, batch_size&＃61;BATCH_SIZE, shuffle&＃61;True)return data_loader


3.构建模型

3.1 激活函数的使用

import torch
import torch.nn.functional as F
b&＃61;torch.Tensor([-2,-1,0,1,2])
print(F.relu(b)) #tensor([0., 0., 0., 1., 2.])

3.2 模型中数据的形状&＃xff08;【添加形状变化图形】&＃xff09;

import torch.nn as nn
import torch.nn.functional as F#2.构建模型
class MnistNodel(nn.Module):def __init__(self):super(MnistNodel,self).__init__()self.fc1&＃61;nn.Linear(1*28*28,28)#第一个全连接self.fc2&＃61;nn.Linear(28,10)#第二个全连接 最终有10个类别def forward(self,input):""":param input:[batch_size,1,28,28]:return:输出层"""#1.修改形状x&＃61;input.view([input.size(0),1*28*28])#或者input.view([-1,1*28*28])#2&＃xff0c;进行全连接的操作x&＃61;self.fc1(x)#3.进行激活函数的处理x&＃61;F.relu(x)#形状无变化#4.输出层out&＃61;self.fc2(x)return out

3.3 模型的损失函数

#方法一
criterion&＃61;nn.CrossEntropyLoss()#交叉熵损失
loss&＃61;criterion(input,target)#方法二
output&＃61;F.log_softmax(x,dim&＃61;-1)#1.对输出值计算softmax和取对数
loss&＃61;F.nll_loss(output,target)#2.使用torch中带权损失nll_loss

4.模型的训练

from torch.optim import Adammodel&＃61;MnistNodel()#实例化模型
optimizer&＃61;Adam(model.parameters(),lr&＃61;0.001)
def train(epoch):&＃39;&＃39;&＃39;实现训练的过程&＃39;&＃39;&＃39;data_loader&＃61;get_dataloader()for idx,(input,target) in enumerate(data_loader):optimizer.zero_grad()output&＃61;model(input)#调用模型&＃xff0c;得到预测值loss&＃61;F.nll_loss(output,target)#得到损失loss.backward()#反向传播optimizer.step()#梯度的更新if idx%100&＃61;&＃61;0:print(epoch,idx,loss.item(),sep&＃61;&＃39;\t&＃39;)

5.模型的保存和加载

5.1 模型的保存

torch.save(model.state_dict(),&＃39;path&＃39;)#保存模型参数
torch.save(optimizer.state_dict(),&＃39;path&＃39;)#保存优化器参数

5.2 模型的加载

model.load_state_dict(torch.load(&＃39;path&＃39;))
optimizer.load_state_dict(torch.load(&＃39;path&＃39;))

6.模型的评估

import numpy as npdef test():loss_list&＃61;[]acc_list&＃61;[]test_dataloader&＃61;get_dataloader(train&＃61;False)for idx,(input,target) in enumerate(test_dataloader):with torch.no_grad():output&＃61;model(input)cur_loss&＃61;F.nll_loss(output,target)loss_list.append(cur_loss)#计算准确率#output [batch_size,10] target:[batch_size]pred&＃61;output.max(dim&＃61;-1)[-1]cur_acc&＃61;pred.eq(target).float().mean()acc_list.append(cur_acc)print(&＃39;平均准确率&＃xff1a;&＃39;,np.mean(acc_list),&＃39;\t平均损失&＃xff1a;&＃39;,np.mean(loss_list))#结果如下&＃xff1a;
# 平均准确率&＃xff1a; 0.9503709 平均损失&＃xff1a; 0.17310049

7.总的代码

import torch,os
import numpy as np
from torchvision.datasets import MNIST
from torchvision.transforms import Compose,ToTensor,Normalize
from torch.utils.data import DataLoader
import torch.nn as nn
import torch.nn.functional as F
from torch.optim import AdamBATCH_SIZE&＃61;128
#1.准备数据
def get_dataloader(train&＃61;True):transform_fn &＃61; Compose([ToTensor(),Normalize(mean&＃61;(0.1307,), std&＃61;(0.3081,)) # mean std的形状和通道数相同])dataset &＃61; MNIST(root&＃61;r&＃39;D:\各种编译器的代码\pythonProject12\机器学习\NLP自然语言处理\datas&＃39;, train&＃61;True, transform&＃61;transform_fn)data_loader &＃61; DataLoader(dataset, batch_size&＃61;BATCH_SIZE, shuffle&＃61;True)return data_loader#2.构建模型
class MnistNodel(nn.Module):def __init__(self):super(MnistNodel,self).__init__()self.fc1&＃61;nn.Linear(1*28*28,28)#第一个全连接self.fc2&＃61;nn.Linear(28,10)#第二个全连接 最终有10个类别def forward(self,input):""":param input:[batch_size,1,28,28]:return:输出层"""#1.修改形状x&＃61;input.view([input.size(0),1*28*28])#或者input.view([-1,1*28*28])#2&＃xff0c;进行全连接的操作x&＃61;self.fc1(x)#3.进行激活函数的处理x&＃61;F.relu(x)#形状无变化#4.输出层out&＃61;self.fc2(x)return F.log_softmax(out)model&＃61;MnistNodel()#实例化模型
if os.path.exists(r&＃39;D:\各种编译器的代码\pythonProject12\机器学习\NLP自然语言处理\模型的保存\mnist_model.pkl&＃39;):model.load_state_dict(torch.load(r&＃39;D:\各种编译器的代码\pythonProject12\机器学习\NLP自然语言处理\模型的保存\mnist_model.pkl&＃39;))
optimizer&＃61;Adam(model.parameters(),lr&＃61;0.001)
if os.path.exists(r&＃39;D:\各种编译器的代码\pythonProject12\机器学习\NLP自然语言处理\模型的保存\mnist_optimizer.pkl&＃39;):optimizer.load_state_dict(torch.load(r&＃39;D:\各种编译器的代码\pythonProject12\机器学习\NLP自然语言处理\模型的保存\mnist_optimizer.pkl&＃39;))def train(epoch):&＃39;&＃39;&＃39;实现训练的过程&＃39;&＃39;&＃39;data_loader&＃61;get_dataloader()for idx,(input,target) in enumerate(data_loader):optimizer.zero_grad()output&＃61;model(input)#调用模型&＃xff0c;得到预测值loss&＃61;F.nll_loss(output,target)#得到损失loss.backward()#反向传播optimizer.step()#梯度的更新if idx%100&＃61;&＃61;0:print(epoch,idx,loss.item(),sep&＃61;&＃39;\t&＃39;)#模型的保存if idx%100&＃61;&＃61;0:#每隔100个保存一下torch.save(model.state_dict(),r&＃39;D:\各种编译器的代码\pythonProject12\机器学习\NLP自然语言处理\模型的保存\mnist_model.pkl&＃39;)torch.save(optimizer.state_dict(),r&＃39;D:\各种编译器的代码\pythonProject12\机器学习\NLP自然语言处理\模型的保存\mnist_optimizer.pkl&＃39;)def test():loss_list&＃61;[]acc_list&＃61;[]test_dataloader&＃61;get_dataloader(train&＃61;False)for idx,(input,target) in enumerate(test_dataloader):with torch.no_grad():output&＃61;model(input)cur_loss&＃61;F.nll_loss(output,target)loss_list.append(cur_loss)#计算准确率#output [batch_size,10] target:[batch_size]pred&＃61;output.max(dim&＃61;-1)[-1]cur_acc&＃61;pred.eq(target).float().mean()acc_list.append(cur_acc)print(&＃39;平均准确率&＃xff1a;&＃39;,np.mean(acc_list),&＃39;\t平均损失&＃xff1a;&＃39;,np.mean(loss_list))if __name__ &＃61;&＃61; &＃39;__main__&＃39;:# for i in range(3):#训练三轮# train(i)test()