Náhodné prohledávání s XGBoostem

GridSearchCV může být v praxi velmi časově náročné, proto se místo něj často hodí použít RandomizedSearchCV – a přesně to uděláš v tomto cvičení. Dobrá zpráva je, že stačí jen pár úprav stávajícího kódu pro GridSearchCV. Hlavní rozdíl spočívá v tom, že místo parametru param_grid použiješ parametr param_distributions.

Toto cvičení je součástí kurzu

Extreme Gradient Boosting with XGBoost

Zobrazit kurz

Pokyny k cvičení

Vytvoř mřížku parametrů gbm_param_grid, která bude obsahovat seznam s jednou hodnotou pro 'n_estimators' (25) a seznam hodnot 'max_depth' od 2 do 11 – použij k tomu range(2, 12).
Vytvoř objekt RandomizedSearchCV s názvem randomized_mse a předej mu: mřížku parametrů do param_distributions, XGBRegressor do estimator, "neg_mean_squared_error" do scoring, 5 do n_iter a 4 do cv. Nastav také verbose=1, aby byl výstup přehlednější.
Natrénuj objekt RandomizedSearchCV na datech X a y.

Interaktivní cvičení na vyzkoušení si v praxi

Vyzkoušejte si toto cvičení dokončením tohoto ukázkového kódu.

# Create the parameter grid: gbm_param_grid 
gbm_param_grid = {
    '____': [____],
    '____': ____(____, ____)
}

# Instantiate the regressor: gbm
gbm = xgb.XGBRegressor(n_estimators=10)

# Perform random search: grid_mse
randomized_mse = ____


# Fit randomized_mse to the data
____

# Print the best parameters and lowest RMSE
print("Best parameters found: ", randomized_mse.best_params_)
print("Lowest RMSE found: ", np.sqrt(np.abs(randomized_mse.best_score_)))

Upravit a spustit kód