分类:ROC 曲线和曲线下面积

ROC 曲线

ROC 曲线接收者操作特征曲线)是一种显示分类模型在所有分类阈值下的性能的图表。这条曲线绘制了两个参数:

  • 正例率
  • 假正例率

真正例率 (TPR) 是召回率的同义词,因此定义如下:

$$TPR = \frac{TP} {TP + FN}$$

假正例率 (FPR) 的定义如下:

$$FPR = \frac{FP} {FP + TN}$$

ROC 曲线用于绘制采用不同分类阈值时的 TPR 与 FPR。 降低分类阈值会导致将更多类别的商品分类为正类别,从而增加假正例和真正例的数量。下图显示了典型的 ROC 曲线。

ROC 曲线显示了不同分类阈值下的 TP 率与 FP 率。

图 4.不同分类阈值下的 TP 率与 FP 率。

为了计算 ROC 曲线中的点,我们可以使用不同的分类阈值多次评估逻辑回归模型,但这种方法效率并不高。幸运的是,有一种基于排序的高效算法可以为我们提供这些信息,这种算法称为 AUC。

曲线下面积:ROC 曲线下面积

AUC 表示“ROC 曲线下面积”。也就是说,曲线下面积测量的是从 (0,0) 到 (1,1) 之间整个 ROC 曲线以下的整个二维面积(考虑积分学)。

曲线下面积(ROC 曲线下面积)。

图 5. 曲线下面积(ROC 曲线下面积)。

曲线下面积对所有可能的分类阈值的效果进行汇总衡量。曲线下面积的一种解读是,模型对随机正类别样本的排名高于随机负类别样本的概率。例如,假设以下示例按逻辑回归预测的升序从左到右排列:

正类别和负类别样本按逻辑回归分数以升序排列

图 6. 预测按逻辑回归分数以升序排列。

曲线下面积表示随机正类别(绿色)样本位于随机负类别(红色)样本右侧的概率。

曲线下面积的取值范围为 0 到 1。预测结果 100% 错误的模型的曲线下面积为 0.0;预测结果 100% 正确的模型的曲线下面积为 1.0。

曲线下面积适合以下两个原因:

  • 曲线下面积的尺度不变。它衡量的是预测结果的排名情况,而不是其绝对值。
  • 曲线下面积的分类阈值不变。无论选择哪个分类阈值,它都会衡量模型的预测结果的质量。

不过,这两个原因都需要注意,这可能会限制曲线下面积在某些用例中的实用性:

  • 并非总是希望缩放不变性。例如,有时我们确实需要校准良好的概率输出,而 AUC 不会告诉我们这一点。

  • 并非总是希望分类阈值不变。在假负例与假正例的代价存在较大差异的情况下,最大限度地减少一种分类错误可能至关重要。例如,在进行垃圾邮件检测时,您可能需要优先考虑尽量减少误报(即使这会导致假负例大幅增加)。曲线下面积不适用于此类优化。