上一篇文章我们简单介绍了一下什么是逻辑回归，接下来，我们一起来看一下逻辑回归有哪些具体应用吧~

一、损失函数求导

优点

• 实现简单；

• 分类时计算量非常小，速度很快，存储资源低；

缺点

• 容易欠拟合，一般准确度不太高

• 只能处理两分类问题（在此基础上衍生出来的softmax可以用于多分类），且必须线性可分

损失函数

逻辑回归的公式为：

假设有N个样本，样本的标签只有0和1两类，可以用极大似然估计法估计模型参数，从而得到逻辑回归模型。

设yi=1的概率为pi，yi=0的概率为1 - pi，那么观测的概率为：

可以看到这个公式很巧妙的将0和1两种情况都包括进去，数学真是个美妙的东西。

概率由逻辑回归的公式求解，那么带进去得到极大似然函数：

取对数之后：

上面这个式子的计算过程还用到了对数的一些相关的性质，对L(w)求极大值，得到w的估计值

其实实际操作中会加个负号，变成最小化问题，通常会采用随机梯度下降法和拟牛顿迭代法来求解

梯度

现在已经知道损失函数：

现在开始求导：

通常来说，是用梯度下降法来求解的，所以会在损失函数前面加个负号求最小值，所以最终的导数变成：

逻辑回归算法当然不仅仅只有这么一个应用，还可以通过求解得到最优解模型，还可以通过代码实现参数求解。具体怎么做呢？一起来视频中跟着老师学习吧~