XGBoost के साथ Grid search
अब जब आपने XGBoost के साथ parameters को अलग-अलग ट्यून करना सीख लिया है, तो आइए scikit-learn की GridSearch और RandomizedSearch क्षमताओं का इस्तेमाल करते हुए internal cross-validation के साथ GridSearchCV और RandomizedSearchCV फंक्शंस से अपनी parameter tuning को अगले स्तर पर ले चलते हैं। आप इनका उपयोग कई parameters के संभावित मानों के संग्रह में से एक साथ exhaustive तरीके से सर्वश्रेष्ठ मॉडल ढूँढ़ने के लिए करेंगे। चलिए GridSearchCV से शुरुआत करते हैं!
यह अभ्यास पाठ्यक्रम का हिस्सा है
XGBoost के साथ Extreme Gradient Boosting
अभ्यास निर्देश
gbm_param_gridनाम का एक parameter grid बनाएँ जिसमें"colsample_bytree"के मानों की list (0.3,0.7),"n_estimators"के लिए एकल मान वाली list (50), और 2"max_depth"(2,5) मानों की list हो.gbmनाम का एकXGBRegressorऑब्जेक्ट instantiate करें.grid_mseनाम का एकGridSearchCVऑब्जेक्ट बनाएँ और पास करें: parameter grid कोparam_grid,XGBRegressorकोestimator,"neg_mean_squared_error"कोscoring, और4कोcv. आउटपुट को बेहतर समझने के लिएverbose=1भी specify करें.GridSearchCVऑब्जेक्ट कोXऔरyपर fit करें.grid_mseके.best_params_और.best_score_एट्रीब्यूट्स का उपयोग करके क्रमशः best parameter values और न्यूनतम RMSE प्रिंट करें.
इंटरैक्टिव व्यावहारिक अभ्यास
इस अभ्यास को इस नमूना कोड को पूरा करके आज़माएँ।
# Create the parameter grid: gbm_param_grid
gbm_param_grid = {
'____': [____, ____],
'____': [____],
'____': [____, ____]
}
# Instantiate the regressor: gbm
gbm = ____
# Perform grid search: grid_mse
grid_mse = ____
# Fit grid_mse to the data
____
# Print the best parameters and lowest RMSE
print("Best parameters found: ", ____)
print("Lowest RMSE found: ", np.sqrt(np.abs(____)))