1. Učit se
  2. /
  3. Kurzy
  4. /
  5. Extreme Gradient Boosting with XGBoost

Connected

cvičení

Ladění parametru eta

Je čas si pořádně procvičit ladění dalších hyperparametrů XGBoostu a sledovat, jak ovlivňují výkon modelu! Začneme parametrem "eta", známým také jako rychlost učení.

Rychlost učení v XGBoostu je parametr v rozsahu od 0 do 1. Vyšší hodnoty "eta" silněji penalizují váhy příznaků, což vede k výraznější regularizaci.

Pokyny

100 XP
  • Vytvoř seznam eta_vals, do kterého uložíš následující hodnoty "eta": 0.001, 0.01 a 0.1.
  • Projdi seznam eta_vals pomocí cyklu for.
  • V každé iteraci cyklu for nastav klíč "eta" v params na hodnotu curr_val. Poté proveď 3násobnou křížovou validaci s předčasným zastavením (5 kol), 10 boosting koly, metrikou "rmse" a hodnotou seed nastavenou na 123. Výstup musí být ve formátu DataFrame.
  • Přidej hodnotu RMSE z posledního kola do seznamu best_rmse.