[Pytorch系列25]：神经网络基础单个无激活函数的神经元实现简单线性回归2

 作者主页(文火冰糖的硅基工坊)&＃xff1a;文火冰糖&＃xff08;王文兵&＃xff09;的博客_文火冰糖的硅基工坊_CSDN博客

本文网址&＃xff1a;https://blog.csdn.net/HiWangWenBing/article/details/120600611

目录

前言 深度学习模型框架

第1章 业务领域分析

1.1  步骤1-1&＃xff1a;业务领域分析

1.2 步骤1-2&＃xff1a;业务建模

1.3 代码实例前置条件

第2章 前向运算模型定义

2.1 步骤2-1&＃xff1a;数据集选择

2.2 步骤2-2&＃xff1a;数据预处理

2.3 步骤2-3&＃xff1a;神经网络建模

2.4 步骤2-4&＃xff1a;神经网络输出

第3章 后向运算模型定义

3.1 步骤3-1&＃xff1a;定义loss函数

3.2  步骤3-2&＃xff1a;定义优化器

3.3 步骤3-3&＃xff1a;模型训练

3.4 步骤3-4&＃xff1a;模型验证

3.5 步骤3-5&＃xff1a;模型可视化

第4章 模型部署

4.1 步骤4-1&＃xff1a;模型部署

前言 深度学习模型框架

[人工智能-深度学习-8]&＃xff1a;神经网络基础 - 机器学习、深度学习模型、模型训练_文火冰糖&＃xff08;王文兵&＃xff09;的博客-CSDN博客_神经网络与深度学习第1章 白话机器学习[人工智能-综述-4]&＃xff1a;白话深度学习-- 无基础小白都能理解机器学习的核心概念_文火冰糖&＃xff08;王文兵&＃xff09;的博客-CSDN博客[人工智能-深度学习-7]&＃xff1a;神经网络基础 - 人工神经网络ANN_文火冰糖&＃xff08;王文兵&＃xff09;的博客-CSDN博客第2章 机器学习的模型与步骤2.1深度学习与机器学习上述三个概念中&＃xff1a;人工智能的概念最广泛&＃xff0c;所以有能机器具有类”人“一样智能的技术、非技术&＃xff08;如伦理&＃xff09;的领域&＃xff0c;都是人工智能。机器获取“智能”的一个重要手段是&＃xff0c;机器具备“自我学习”的能力&＃xff0c;...

1.2 步骤1-2&＃xff1a;业务建模

1.3 代码实例前置条件

#环境准备
import numpy as np # numpy数组库
import math # 数学运算库
import matplotlib.pyplot as plt # 画图库import torch # torch基础库
import torch.nn as nn # torch神经网络库print("Hello World")
print(torch.__version__)
print(torch.cuda.is_available())

Hello World
1.8.0
False

第2章 前向运算模型定义

2.1 步骤2-1&＃xff1a;数据集选择

这里不需要采用已有的开源数据集&＃xff0c;只需要自己构建数据集即可。

#2-1 准备数据集
x_sample &＃61; np.linspace(0, 5, 64)noise &＃61; np.random.randn(64)
y_sample &＃61; 2 * x_sample &＃43; 1 &＃43; noisey_line &＃61; 2 * x_sample &＃43; 1#可视化数据
plt.scatter(x_sample, y_sample)
plt.plot(x_sample, y_line,&＃39;red&＃39;)

2.2 步骤2-2&＃xff1a;数据预处理

&＃xff08;1&＃xff09;把numpy一维数据转换成二维样本数据

&＃xff08;2&＃xff09;把numpy样本数据转换成torch样本数据

# 2-2 对数据预处理
print("Numpy原始样本的形状")
print(x_sample.shape)
print(y_sample.shape)# 把一维线性数据转换成二维样本数据&＃xff0c;每个样本数据为一维
print("\nNumpy训练样本的形状")
x_numpy &＃61; x_sample.reshape(-1, 1).astype(&＃39;float32&＃39;)
y_numpy &＃61; y_sample.reshape(-1, 1).astype(&＃39;float32&＃39;)
print(x_numpy.shape)
print(y_numpy.shape)# numpy样本数据转换成pytorch样本数据
print("\ntorch训练样本的形状")
x_train &＃61; torch.from_numpy(x_numpy)
y_train &＃61; torch.from_numpy(y_numpy)print(x_train.shape)
print(y_train.shape)plt.scatter(x_train, y_train)

Numpy原始样本的形状
(64,)
(64,)Numpy训练样本的形状
(64, 1)
(64, 1)torch训练样本的形状
torch.Size([64, 1])
torch.Size([64, 1])

Out[3]:

2.3 步骤2-3&＃xff1a;神经网络建模

这里的神经网络模型是单输入&＃xff08;size&＃61;1)、单输出(size&＃61;1)、无激活函数的线性神经元。

# 2-3 定义网络模型
print("定义并初始化模型")
w &＃61; Variable(torch.randn(1), requires_grad&＃61;True)
b &＃61; Variable(torch.randn(1), requires_grad&＃61;True)
print(w, w.data)
print(b, b.data)def linear_mode(x):return (w * x &＃43; b)model &＃61; linear_mode

定义并初始化模型
tensor([0.1358], requires_grad&＃61;True) tensor([0.1358])
tensor([0.4257], requires_grad&＃61;True) tensor([0.4257])

2.4 步骤2-4&＃xff1a;神经网络输出

# 2-4 定义网络预测输出
y_pred &＃61; linear_mode(x_train)
print(y_pred.shape)

torch.Size([64, 1])

备注&＃xff1a;输出是64个样本的一维数据

第3章 后向运算模型定义

3.1 步骤3-1&＃xff1a;定义loss函数

这里采用的MSE loss函数

# 3-1 定义loss函数:
# loss_fn&＃61; MSE loss
def MSELoss(y_, y):return (torch.mean((y_ - y)**2))loss_fn &＃61; MSELossprint(loss_fn)

3.2  步骤3-2&＃xff1a;定义优化器

# 3-2 定义优化器
Learning_rate &＃61; 0.01 #学习率# lr&＃xff1a;指明学习率
def optimizer_SGD_step(lr):w.data &＃61; w.data - lr * w.grad.datab.data &＃61; b.data - lr * b.grad.dataoptimizer &＃61; optimizer_SGD_stepprint(optimizer)

3.3 步骤3-3&＃xff1a;模型训练

# 3-3 模型训练
w &＃61; Variable(torch.randn(1), requires_grad&＃61;True)
b &＃61; Variable(torch.randn(1), requires_grad&＃61;True)# 定义迭代次数
epochs &＃61; 500loss_history &＃61; [] #训练过程中的loss数据
w_history &＃61; [] #训练过程中的w参数值
b_history &＃61; [] #训练过程中的b参数值for i in range(0, epochs):#(1) 前向计算y_pred &＃61; model(x_train)#(2) 计算lossloss &＃61; loss_fn(y_pred, y_train)#(3) 反向求导loss.backward(retain_graph&＃61;True)#(4) 反向迭代optimizer_SGD_step(Learning_rate)#(5) 复位优化器的梯度#optimizer.zero_grad()w.grad.zero_()b.grad.zero_()#记录迭代数据loss_history.append(loss.data) w_history.append(w.data)b_history.append(b.data)if(i % 100 &＃61;&＃61; 0):print(&＃39;epoch {} loss {:.4f}&＃39;.format(i, loss.item())) print("\n迭代完成")
print("\n训练后w参数值&＃xff1a;", w)
print("\n训练后b参数值&＃xff1a;", b)
print("\n最小损失数值 &＃xff1a;", loss)
print(len(loss_history))
print(len(w_history))
print(len(b_history))

epoch 0 loss 42.0689
epoch 100 loss 1.0441
epoch 200 loss 1.0440
epoch 300 loss 1.0439
epoch 400 loss 1.0439迭代完成训练后w参数值&＃xff1a; Parameter containing:
tensor([[1.8530]], requires_grad&＃61;True) 1.8529784679412842训练后b参数值&＃xff1a; Parameter containing:
tensor([1.2702], requires_grad&＃61;True) 1.2701895236968994最小损失数值 &＃xff1a; tensor(1.0439, grad_fn&＃61;) 1.0438624620437622
500
500
500

3.4 步骤3-4&＃xff1a;模型验证

NA

3.5 步骤3-5&＃xff1a;模型可视化

# 3-4 可视化模型数据
#model返回的是总tensor&＃xff0c;包含grad_fn&＃xff0c;用data提取出的tensor是纯tensor
y_pred &＃61; model(x_train).data.numpy().squeeze()
print(x_train.shape)
print(y_pred.shape)
print(y_line.shape)plt.scatter(x_train, y_train, label&＃61;&＃39;SampleLabel&＃39;)
plt.plot(x_train, y_pred, label&＃61;&＃39;Predicted&＃39;)
plt.plot(x_train, y_line, label&＃61;&＃39;Line&＃39;)plt.legend()
plt.show()

torch.Size([64, 1])
(64,)
(64,)

#显示loss的历史数据
plt.plot(loss_history, "r&＃43;")
plt.title("loss value")

#显示w参数的历史数据
plt.plot(w_history, "r&＃43;")
plt.title("w value")

#显示b参数的历史数据
plt.plot(b_history, "r&＃43;")
plt.title("b value")

第4章 模型部署

4.1 步骤4-1&＃xff1a;模型部署

NA

作者主页(文火冰糖的硅基工坊)&＃xff1a;文火冰糖&＃xff08;王文兵&＃xff09;的博客_文火冰糖的硅基工坊_CSDN博客

本文网址&＃xff1a;https://blog.csdn.net/HiWangWenBing/article/details/120600611