Precision, ROI ve AUC
Yatırım getirisi (ROI), precision ile getiri/maliyet oranının çarpımı olarak ayrıştırılabilir. Tartıştığımız gibi, bir modelin ROC eğrisinin AUC değeri yüksek olsa bile precision düşük olabilir. Precision düşükse, ROI de düşük olur. Bu egzersizde, sabit bir r (gösterim sayısı başına tıklama getirisi) ve cost (gösterim sayısı başına maliyet) varsayarak, bir MLP ile örnek bir ROI hesaplayacak; ayrıca precision ve ROC eğrisinin AUC değerleriyle birlikte bu üç değerin nasıl değiştiğini inceleyeceksin.
X_train, y_train, X_test, y_test çalışma alanında mevcut; clf bir MLP sınıflandırıcısı, olasılık skorları y_score içinde, tahmin edilen hedefler y_pred içinde tutuluyor. pandas pd olarak ve sklearn de çalışma alanında mevcut.
Bu egzersiz, kursun bir parçasıdır
Python ile Machine Learning kullanarak TOB tahmini
Egzersiz talimatları
- MLP sınıflandırıcısının precision değeri
prec’i hesapla. - Precision
prec’e dayalı toplam ROI’yi hesapla.
Uygulamalı etkileşimli egzersiz
Bu egzersizi bu örnek kodu tamamlayarak deneyin.
# Get precision and total ROI
prec = ____(y_test, ____, average = 'weighted')
r = 0.2
cost = 0.05
roi = ____ * r / cost
# Get AUC
roc_auc = roc_auc_score(y_test, y_score[:, 1])
print("Total ROI: %s, Precision: %s, AUC of ROC curve: %s" %(
roi, prec, roc_auc))