Python中的ROC曲线技巧

1. 什么是ROC曲线

ROC曲线(Receiver Operating Characteristic Curve,又称为“受试者工作特征曲线”)是描述分类模型好坏的一种工具,是以真正例率(True Positive Rate, TPR)为纵轴、假正例率(False Positive Rate,FPR)为横轴绘制的曲线。

1.1 TPR和FPR

在绘制ROC曲线前,我们需要了解TPR和FPR的概念。TPR即真正例率,表示所有实际为正例中,被分类器判定为正例的比例。FPR即假正例率,表示所有实际为负例中,被分类器判定为正例的比例。

具体地,假设我们有一个二分类模型,其分类结果如下表所示:

真实值 预测值
1 1
1 0
0 1
0 0

我们可以根据上述表格计算出TP、FP、TN和FN等四个指标:

TP:实际为正例且被分类器判定为正例的数量

FP:实际为负例但被分类器判定为正例的数量

TN:实际为负例且被分类器判定为负例的数量

FN:实际为正例但被分类器判定为负例的数量

有了上述指标,我们可以计算出TPR和FPR:

$$TPR = \frac{TP}{TP + FN}$$$$FPR = \frac{FP}{TN + FP}$$

2. 如何绘制ROC曲线

接下来,我们将介绍如何使用Python绘制ROC曲线。首先,我们需要使用机器学习模型对数据进行训练,并使用测试集对模型进行评估。这里我们以sklearn库中的SVM模型为例:

from sklearn import svm

from sklearn.metrics import roc_curve, auc

from sklearn.model_selection import train_test_split

import matplotlib.pyplot as plt

import pandas as pd

data = pd.read_csv('data.csv')

X = data.iloc[:, :-1]

y = data.iloc[:, -1]

X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.3, random_state=0)

clf = svm.SVC(kernel='rbf', probability=True)

clf.fit(X_train, y_train)

y_score = clf.predict_proba(X_test)[:, 1]

fpr, tpr, thresholds = roc_curve(y_test, y_score)

roc_auc = auc(fpr, tpr)

plt.figure()

plt.plot(fpr, tpr, color='darkorange', lw=2, label='ROC curve (area = %0.2f)' % roc_auc)

plt.plot([0, 1], [0, 1], color='navy', lw=2, linestyle='--')

plt.xlim([0.0, 1.0])

plt.ylim([0.0, 1.05])

plt.xlabel('False Positive Rate')

plt.ylabel('True Positive Rate')

plt.title('Receiver operating characteristic example')

plt.legend(loc="lower right")

plt.show()

代码解析:

第1-5行导入所需库和函数。

第7-12行读取数据,将数据集划分为训练集和测试集。

第14行创建一个SVM分类器,并对训练集进行拟合。

第16行使用predict_proba()函数计算每个样本属于正例的概率,其中[:,1]表示取第二列(即属于正例的概率)。

第17行使用roc_curve()函数计算出FPR和TPR。

第18行使用auc()函数计算出ROC曲线的面积。

第20-26行使用matplotlib库绘制ROC曲线。

运行上述代码,我们可以得到如下图所示的ROC曲线:

3. 如何选择合适的阈值

在生成ROC曲线后,我们如何确定合适的阈值?这里介绍两种常见的方法:Youden指数和F1值。

3.1 Youden指数

Youden指数是指在所有可能阈值中,TPR和FPR之差的最大值:

$$Youden=TPR-FPR$$

其值范围在0到1之间,值越大说明模型的泛化能力越强,因为模型能更好地区分出正负样本。一般情况下,Youden指数最大时对应的阈值即为我们所需要的阈值。

在Python中,我们可以使用如下代码计算Youden指数并找到对应的阈值:

Youden = tpr - fpr

optimal_idx = np.argmax(Youden)

optimal_threshold = thresholds[optimal_idx]

其中,optimal_threshold即为选择的阈值。

3.2 F1值

F1值是衡量分类器准确率的指标,它是精确率(Precision)和召回率(Recall)的调和平均数:

$$F1=\frac{2}{\frac{1}{Precision}+\frac{1}{Recall}}=\frac{2TP}{2TP+FP+FN}$$

在Python中,我们可以使用如下代码计算F1值并找到对应的阈值:

F1 = (2 * tpr * (1 - fpr)) / (tpr + (1 - fpr))

optimal_idx = np.argmax(F1)

optimal_threshold = thresholds[optimal_idx]

同样,optimal_threshold即为选择的阈值。

4. 总结

本文介绍了ROC曲线的定义、绘制方法以及如何选择合适的阈值。通过阅读本文,你可以了解到如何在Python中使用sklearn库绘制ROC曲线,并使用Youden指数或F1值找到合适的阈值,进而优化分类模型的性能。

免责声明:本文来自互联网,本站所有信息(包括但不限于文字、视频、音频、数据及图表),不保证该信息的准确性、真实性、完整性、有效性、及时性、原创性等,版权归属于原作者,如无意侵犯媒体或个人知识产权,请来电或致函告之,本站将在第一时间处理。猿码集站发布此文目的在于促进信息交流,此文观点与本站立场无关,不承担任何责任。

后端开发标签