明明叫“回归”,却专门用来做分类——逻辑回归的名字常让人困惑。本文解释它如何用一条 S 形曲线把任意数值压缩成“是或否”的概率,以及为什么它至今仍是风控、筛查等场景里最常用的基线模型。

核心要点

  • 逻辑回归在线性打分的基础上套一层 S 形函数,把结果压到 0 到 1 之间。
  • 输出可以理解为属于某一类的概率,设定阈值之后就能做二分类判断。
  • 它训练快、结果可读,是分类任务里最应该先试一遍的模型之一。

名字里的误会

逻辑回归带着“回归”二字,干的却是分类的活,这个命名常让初学者困惑。原因是它内部确实先做了一次线性打分:把各个特征乘以权重加起来,得到一个可大可小的分数。只不过这个分数没有直接输出,而是又经过一层转换,变成了 0 到 1 之间的概率。回归的部分在里面,分类的结果在外面。

所以更准确的理解是:它是一条直线外加一道压缩工序。直线负责把特征综合成一个分数,压缩工序负责把分数翻译成“有多大可能属于这一类”。两者合起来,就得到一个既能打分又能给出概率的模型,这在需要评估风险的场合特别有用。

S 形曲线的妙处

这道压缩工序就是逻辑函数,形状像一条被拉长的 S。不管输入是负一百还是正一百,它都把结果稳稳压在 0 和 1 之间,而且在中段变化最快、两端趋于平缓。这个性质很关键:分数居中时,微小的变化就能明显改变概率;分数极端时,模型已经很有把握,再加分也不会改变结论。

训练时,模型不再追求让误差平方和最小,而是追求让真实标签出现的可能性最大,这就是最大似然的思想。直白地说,对于确实属于正类的样本,模型希望给出的概率越接近 1 越好;对于负类样本,越接近 0 越好。这个目标形状良好,用梯度下降求解很顺利。

阈值不是非得 0.5

得到概率之后,还要定一条线把“是”和“否”分开。教科书常写 0.5,但真实业务里几乎不会照搬。审批场景中,把一个不合格者放行的代价,远高于拒绝一个合格者,阈值就会被压得很低;筛查场景则反过来,宁可多召回一些疑似者,也不愿漏掉真正的目标。

调整阈值不会改变模型本身,只是移动了判定的分界。因此在评估分类器时,专业人员更看重模型在整个阈值区间的整体表现,而不是某一个点上的正确率。这也是为什么逻辑回归常被做成评分卡:分数可排序,阈值可以事后按业务需要灵活设定。

常见问题

逻辑回归只能处理二分类吗?

基础形式是针对两类的,但扩展到多类并不难。常见做法是训练多个二分类器各自判断“是不是这一类”,再取概率最高的那一类;也可以直接换成归一化指数函数,让所有类别的概率加起来等于一。多数工具库都内置了这两种实现。

本文为 AI 科普内容,仅用于知识普及,不构成任何技术选型、投资或职业决策建议。