在二分类中，softmax回归等价于逻辑回归吗

如果分类的类别个数是2，softmax回归等价于逻辑回归吗？

在逻辑回归中，我们使用sigmoid函数，将线性输出z转化为一个概率。

这个概率表示样本属于正例的可能性。

在softmax回归中，我们使用softmax函数将输出值zk同样转化为概率。

这个概率表示样本属于第k个类别的可能性。

当类别数为2时，softmax回归和逻辑回归的输出等价的：

下面我们就来推导，当类别个数为2时，softmax回归等价于逻辑回归，这一结论。

设有两个类别，类别1和类别0，某样本x属于1或0的概率为p(y=1)和p(y=0)。

在逻辑回归中，使用sigmoid函数来预测正例的概率，结果p(y=1)=sigmoid(z)。

在softmax回归中，类别k的概率为，softmax(zk)。

根据softmax函数，类别0和类别1的概率分别是softmax(z0)、softmax(z1)。将这两个等式相除，得到p(y=0)除以p(y=1)，等于e的z0次方除以e的z1次方。

接着将p(y=0)=1-p(y=1)，带入这个式子，得到，(1 - p(y=1)) / p(y=1)= e的z0减z1次方。

将p(y=1)，表示出来，得到 1/ 1+e的z_0-z_1次方。

这时我们将z_0看做是0，或者将z_0-z_1看做是一个整体，对应-z，就会得到逻辑回归的形式了。

因此，可以得出结论，在处理二分类问题时，softmax回归和逻辑回归，实际上是完全等价的模型。