Prosedur forward stepwise variable selection memberikan urutan penambahan variabel secara optimal ke dalam himpunan prediktor. Untuk memutuskan di mana menghentikan penambahan variabel, Anda dapat membuat kurva AUC pada train dan test. Kurva ini memplot AUC train dan test menggunakan variabel pertama, dua variabel pertama, tiga variabel pertama, … dalam model.

Pada latihan ini Anda akan belajar memplot kurva AUC tersebut. Metode auc_train_test untuk menghitung nilai AUC telah disediakan dan dapat digunakan sebagai berikut:

auc_train, auc_test = auc_train_test(variables, target, train, test)

di mana variables adalah himpunan variabel yang digunakan dalam model regresi logistik, target adalah list berisi nama target, dan train serta test masing-masing adalah basetable train dan test.

Variabel-variabel yang diurutkan menurut prosedur forward stepwise diberikan dalam list variables. Anda dapat menelusurinya di konsol. Selain itu, tiga list kosong telah didefinisikan untuk Anda:

auc_values_train, yang akan berisi nilai AUC train dari model pada setiap iterasi
auc_values_test, yang akan berisi nilai AUC test dari model pada setiap iterasi
variables_evaluate, yang akan berisi variabel-variabel yang dievaluasi pada setiap iterasi

Menentukan cut-off

Pengantar Predictive Analytics dengan Python

Latihan interaktif langsung