用岭回归解决在多元线性回归模型中由于多重共线性导致最小二乘法的失效问题

多元线性回归模型有一个基本假设&＃xff0c;即要求设计矩阵的列向量之间线性无关
但在实际问题中&＃xff0c;更容易发生的情况是近似共线性的情形,此时使用用普通的二乘法得到的结果非常离谱,就需要用岭回归代替

关于岭回归的解释可以在普通最小二乘估计离差平方和最小模型中引入一个惩罚因子, 然后由微积分中的费马定理得到,
其表达式可以用L2范数
(关于L2范数):
https://blog.csdn.net/qq_41228218/article/details/96845847
或者带不等式约束的优化问题而导出的广义拉格朗日函数的形式表示

一般工业上都直接就用岭回归了