一、概念

        在线性回归模型中&＃xff0c;输出一般是连续的&＃xff0c;例如y&＃61;f(x)&＃61;ax&＃43;b&＃xff0c;对于每一个输入的x&＃xff0c;都有一个对应的y输出。模型的定义域和值域都可以是[-∞, &＃43;∞]。
        但是对于逻辑回归&＃xff0c;输入可以是连续的[-∞, &＃43;∞]&＃xff0c;但输出一般是离散的&＃xff0c;即只有有限多个输出值。例如&＃xff0c;其值域可以只有两个值{0, 1}&＃xff0c;这两个值可以表示对样本的某种分类&＃xff0c;高/低、患病/健康、阴性/阳性等&＃xff0c;这就是最常见的二分类逻辑回归。因此&＃xff0c;从整体上来说&＃xff0c;通过逻辑回归模型&＃xff0c;我们将在整个实数范围上的x映射到了有限个点上&＃xff0c;这样就实现了对x的分类。因为每次拿过来一个x&＃xff0c;经过逻辑回归分析&＃xff0c;就可以将它归入某一类y中。

二、算法

2.1、LR代价函数

2.2、逻辑回归与线性回归的关系

        逻辑回归也被称为广义线性回归模型&＃xff0c;它与线性回归模型的形式基本上相同&＃xff0c;都具有 ax&＃43;b&＃xff0c;其中a和b是待求参数&＃xff0c;其区别在于他们的因变量不同&＃xff0c;多重线性回归直接将ax&＃43;b作为因变量&＃xff0c;即y &＃61; ax&＃43;b&＃xff0c;而logistic回归则通过函数S将ax&＃43;b对应到一个隐状态p&＃xff0c;p &＃61; S(ax&＃43;b)&＃xff0c;然后根据p与1-p的大小决定因变量的值。

三、公式

数学上的意义

推导过程

四、优缺点