Krzyżowa walidacja modelu XGBoost
W tym ćwiczeniu pójdziesz o krok dalej – użyjesz utworzonego potoku do przetworzenia danych i krzyżowej walidacji modelu.
To ćwiczenie jest częścią kursu
Extreme Gradient Boosting with XGBoost
Instrukcje do ćwiczenia
- Utwórz potok o nazwie
xgb_pipeline, korzystając zsteps. - Przeprowadź 10-krotną walidację krzyżową za pomocą
cross_val_score(). Przekaż potok,X(jako słownik, używając.to_dict("records")),y, liczbę foldów oraz parametrscoring("neg_mean_squared_error"). - Wyświetl RMSE dla 10 foldów.
Interaktywne ćwiczenie praktyczne
Spróbuj tego ćwiczenia, uzupełniając ten przykładowy kod.
# Import necessary modules
from sklearn.feature_extraction import DictVectorizer
from sklearn.pipeline import Pipeline
from sklearn.model_selection import cross_val_score
# Fill LotFrontage missing values with 0
X.LotFrontage = ____
# Setup the pipeline steps: steps
steps = [("ohe_onestep", DictVectorizer(sparse=False)),
("xgb_model", xgb.XGBRegressor(max_depth=2, objective="reg:squarederror"))]
# Create the pipeline: xgb_pipeline
xgb_pipeline = ____
# Cross-validate the model
cross_val_scores = ____
# Print the 10-fold RMSE
print("10-fold RMSE: ", np.mean(np.sqrt(np.abs(____))))