多变量线性回归分析,进行多元线性回归

日萌社

人工智能AI：Keras PyTorch MXNet TensorFlow PaddlePaddle 深度学习实战（不定时更新）

1.多变量线性回归/多元线性回归多变量线性回归 又可称作 多元线性回归，即使用多个特征值/变量来预测y。1.单变量线性回归中，只有一个单一特征值/变量值(房子面积x)，那么希望用这个特征值/变量值来预测y(房屋价格)。 单变量的假设函数：hθ(x)=θ0+θ1x。x即为唯一输入的特征值/变量值，h(x)的结果值即为y(房屋价格)。2.多变量线性回归这种形式适用于多个变量值或者多特征值的情况。多变量线性回归形式的预测房屋价格，不仅有房子面积x的一个特征值/变量值，还可以有卧室数量、楼层数量、房子年龄等多个特征值/变量值来预测房屋价格。3.如下图中，使用x1、x2、x3、x4来表示四个特征值/变量值，仍然使用y来表示要预测的房子价格。符号使用：n：表示特征值/变量值的数目。下图中特征值/变量值的数目为n=4。m：训练样本数量，即表格中的行数。x^(i)：表示第i个训练样本的输入特征值/变量值。i代表训练集中的某个样本的索引/下下标。 比如下图中：x^(2) 表示第2个训练样本的一行中所包含的4个输入特征值/变量值，而该4个输入特征值便构建成为一个4x1矩阵(四维向量)。 那么x^(2)即可以看做为一个4x1矩阵(四维向量)：[1416,3,2,40]。x^(i)_j：表示第i个训练样本中的第j个特征量的值。 比如下图中：x^(2)_3 表示第2个训练样本的这一行中的第3个特征值，即第2行中第3列的值。

4.多变量/多特征值的假设函数1.多变量/多特征值的假设函数公式：hθ(x)=θ0 +θ1*x1 +θ2*x2 + ... +θn*xn。2.例子如下图：公式：hθ(x)=θ0 +θ1*x1 +θ2*x2 +θ3*x3 +θ4*x4特征值输入后：h(x)= 80000 + 0.1 * x1 + 0.01 * x2 + 3 * x3 -2 * x4解析：h(x)的结果值为预测的房子价格，单位千美元。 θ0为 基本价格80(千)美元。 θ1为 0.1(千)美元 表示每平方英尺100美元，x1 表示输入特征值(房子面积)。 θ2为 0.01(千)美元 表示随着楼层数的增加而增加10美元，x2 表示输入特征值(楼层数)。 θ3为 3(千)美元 表示 随着卧室数量的增加而增加3000美元，x3 表示输入特征值(卧室数量)。 θ4为 -2(千)美元 表示 随着使用年数的增加而贬值2000美元，x4 表示输入特征值(使用年数)。

3.简化多变量/多特征值的假设函数公式1.多变量/多特征值的假设函数公式：hθ(x)=θ0 +θ1*x1 +θ2*x2 + ... +θn*xn。 在上述公式的基础上增加多一个输入特征值x0，并且把输入特征值x0设为1，因此公式变换成：hθ(x)=θ0*x0 +θ1*x1 +θ2*x2 + ... +θn*xn。 增设一个值为1的输入特征值x0，意味着对于任意第i个样本都存在一个额外的第0个特征值，第0个特征值为1，即x^(i)向量存在一个x^(i)_0=1的特征值。2.θ0 +θ1*x1 +θ2*x2 + ... +θn*xn：特征值向量X是一个从1开始标记的n维的向量(n行1列矩阵)，即X=[x1,x2,...,xn]。 θ0*x0 +θ1*x1 +θ2*x2 + ... +θn*xn：由于额外增加了第0个特征值，并且第0个特征值总是1，因此特征值向量X是一个从0开始标记的n+1维的向量(n+1行1列矩阵)，即X=[x0,x1,x2,...,xn]。3.hθ(x)=θ0*x0 +θ1*x1 +θ2*x2 + ... +θn*xn 1.X特征向量：把输入特征值xn看作为一个n+1维向量(n+1行1列矩阵)，即X=[x0,x1,x2,...,xn]2.θ参数向量：把θn看作为一个n+1维向量(n+1行1列矩阵)，即θ=[θ0,θ1,θ2,...,θn]3.输入特征值x0 永远等于14.hθ(x)=θ0*x0 +θ1*x1 +θ2*x2 + ... +θn*xn 可以简化写成θ参数向量转置运算后乘以X特征向量，公式为θ^T*X。1.θ^T即为θ参数向量转置运算：θ参数向量本身为n+1维的θ参数向量(n+1行1列矩阵)，θ参数向量转置运算后变成一个(n+1)*1维的矩阵，即n+1列1行矩阵，因此又被称为行向量，可写作为(n+1)*1。2.θ^T可看作为行向量，因此θ^T*X可看作为行向量与X特征向量的相乘。3.θ^T*X：可被称为内积向量，即θ参数向量与X特征向量的内积，或者说内积就是θ参数向量转置运算后乘以X特征向量。 θ^T*X 等于θ0*x0 +θ1*x1 +θ2*x2 + ... +θn*xn。