检查过拟合
在样本内的 AUC 高达 \(99.9\%\) 往往提示过拟合。当然,也可能是您的数据结构非常理想,或者模型确实表现卓越!
要判断是哪种情况,您需要给出样本外的 AUC 估计。由于暂时不想动测试集,您可以在训练集上进行交叉验证来获得这些估计。
您的训练数据 customers_train 和袋装树模型规范 spec_bagged 仍在工作区中可用。
本练习是课程的一部分
R 中的树模型机器学习
练习说明
- 使用
fit_resamples(),在训练集上采用 3 折交叉验证,并使用模型公式still_customer ~ total_trans_amt + customer_age + education_level来估计roc_auc指标。 - 收集并显示结果中的 AUC 指标。
交互式实操练习
通过完成这段示例代码来试试这个练习。
set.seed(55)
# Estimate AUC using cross-validation
cv_results <- fit_resamples(spec_bagged,
___,
resamples = vfold_cv(___),
metrics = ___)
# Collect metrics
___(cv_results)