本文旨在解释在使用 Scikit-learn 计算随机森林的 AUC 时，为何使用不同的函数可能会得到不同的结果，并提供正确的计算方法。核心在于理解 predict_proba 方法在 AUC 计算中的作用。
在 Scikit-learn 中，计算随机森林模型的 AUC 时，经常会遇到使用 RocCurveDisplay.from_estimator 和 roc_auc_score 函数得到不同结果的情况。这种差异并非偶然，而是源于函数内部计算方式的不同以及对模型输出的不同处理。
原因分析：predict vs. predict_proba
关键在于理解 predict 和 predict_proba 这两个方法之间的区别。
predict(X): 该方法直接返回样本的类别标签，即模型预测的最终结果。对于二分类问题，它会根据一个默认的阈值（通常是0.5）将概率值转换为类别标签。
predict_proba(X): 该方法返回的是样本属于每个类别的概率。对于二分类问题，它会返回一个二维数组，其中每一行代表一个样本，第一列是属于类别 0 的概率，第二列是属于类别 1 的概率。
RocCurveDisplay.from_estimator 函数默认使用模型的 predict_proba 方法来计算 ROC 曲线，而直接使用 rfc.predict(X_test) 得到的是预测的类别标签，这会导致 roc_auc_score 函数计算出的 AUC 值偏低。这是因为 AUC 的计算依赖于模型输出的概率值，而不是硬性的类别标签。
正确的 AUC 计算方法
要获得准确的 AUC 值，应该使用 predict_proba 方法，并选择属于正类的概率值。以下是正确的代码示例：
from sklearn.datasets import load_winefrom sklearn.ensemble import RandomForestClassifierfrom sklearn.metrics import roc_auc_scorefrom sklearn.model_selection import train_test_split# 加载数据集X, y = load_wine(return_X_y=True)y = y == 2# 划分训练集和测试集X_train, X_test, y_train, y_test = train_test_split(X, y, random_state=42)# 创建并训练随机森林模型rfc = RandomForestClassifier(n_estimators=10, random_state=42)rfc.fit(X_train, y_train)# 使用 predict_proba 计算 AUCauc = roc_auc_score(y_test, rfc.predict_proba(X_test)[:, 1])print(auc)
在这个例子中，rfc.predict_proba(X_test)[:, 1] 返回的是测试集中每个样本属于类别 1 的概率，这些概率值被用于 roc_auc_score 函数计算 AUC，从而得到更准确的结果。
总结与注意事项
在计算分类模型的 AUC 时，务必使用 predict_proba 方法获取概率值，而不是直接使用 predict 方法获取类别标签。理解 predict 和 predict_proba 的区别对于正确评估模型性能至关重要。RocCurveDisplay.from_estimator 默认使用 predict_proba，因此通常能给出更准确的 AUC 结果。如果需要手动计算 AUC，请确保使用 predict_proba 的输出，并选择属于正类的概率值。不同的AUC计算方法可能导致结果差异，选择合适的方法并理解其原理至关重要。
以上就是如何使用 Scikit-learn 计算随机森林的 AUC 并避免差异的详细内容，更多请关注创想鸟其它相关文章！
版权声明：本文内容由互联网用户自发贡献，该文观点仅代表作者本人。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。
如发现本站有涉嫌抄袭侵权/违法违规的内容， 请发送邮件至 chuangxiangniao@163.com 举报，一经查实，本站将立刻删除。
发布者：程序猿，转转请注明出处：https://www.chuangxiangniao.com/p/1368372.html
微信扫一扫 
支付宝扫一扫 
