Komplexitet, bias och varians

I videon såg du hur komplexiteten hos en modell betecknad \(\hat{f}\) påverkar bias- och varianstermerna i dess generaliseringsfel.
Vilket av följande alternativ beskriver korrekt sambandet mellan \(\hat{f}\):s komplexitet och \(\hat{f}\):s bias- och varianstermer?

Den här övningen är en del av kursen

Maskininlärning med trädbaserade modeller i Python

Interaktiv övning med praktiskt arbete

Gör teori till handling med en av våra interaktiva övningar

Starta övningen

Den här övningen är en del av kursen

Maskininlärning med trädbaserade modeller i Python

SkillTag.level.intermediateSkillTag.label

4.8+

Starta kursen gratis

Klassificerings- och regressionsträd (CART) är en uppsättning övervakade inlärningsmodeller för klassificerings- och regressionsproblem. I det här kapitlet introduceras du till CART-algoritmen.

Exercise 1: Beslutsträd för klassificering Exercise 2: Träna ditt första klassificeringsträd Exercise 3: Utvärdera klassificeringsträdet Exercise 4: Logistisk regression vs klassificeringsträd Exercise 5: Inlärning med klassificeringsträd Exercise 6: Träna ett klassificeringsträd Exercise 7: Använda entropi som kriterium Exercise 8: Entropi vs. Gini-index Exercise 9: Beslutsträd för regression Exercise 10: Träna ditt första regressionsträd Exercise 11: Utvärdera regressionsträdet Exercise 12: Linjär regression vs regressionsträd

Avvägningen mellan bias och varians är ett av de grundläggande begreppen inom övervakad maskininlärning. I det här kapitlet lär du dig att diagnostisera problemen med överanpassning och underanpassning. Du introduceras också till konceptet ensembling, där förutsägelserna från flera modeller aggregeras för att ge mer robusta resultat.

Exercise 1: Generaliseringsfel Exercise 2: Komplexitet, bias och varians

Aktuell övning

Exercise 3: Överanpassning och underanpassning Exercise 4: Diagnostisera bias- och variansproblem Exercise 5: Instantiera modellen Exercise 6: Utvärdera 10-faldig korsvalideringsfelet Exercise 7: Utvärdera träningsfelet Exercise 8: Hög bias eller hög varians?Exercise 9: Ensemble-inlärning Exercise 10: Definiera ensemblen Exercise 11: Utvärdera individuella klassificerare Exercise 12: Bättre prestanda med en röstningsklassificerare

Bagging är en ensemblemetod där samma algoritm tränas många gånger med olika delmängder från träningsdata. I det här kapitlet lär du dig hur bagging kan användas för att skapa ett trädensemble. Du lär dig också hur random forests-algoritmen kan öka mångfalden i ensemblen genom slumpmässighet på nivån för varje uppdelning i träden.

Exercise 1: Bagging Exercise 2: Definiera bagging-klassificeraren Exercise 3: Utvärdera bagging-prestanda Exercise 4: Out-of-bag-evaluering Exercise 5: Förbered grunden Exercise 6: OOB-poäng vs. testmängdspoäng Exercise 7: Slumpskogar (RF)Exercise 8: Träna en RF-regressor Exercise 9: Utvärdera RF-regressorn Exercise 10: Visualisering av särdragsvikter

Boosting är en ensemblemetod där flera modeller tränas sekventiellt och varje modell lär sig av föregångares fel. I det här kapitlet introduceras du till de två boostingmetoderna AdaBoost och Gradient Boosting.

Exercise 1: AdaBoost Exercise 2: Definiera AdaBoost-klassificeraren Exercise 3: Träna AdaBoost-klassificeraren Exercise 4: Utvärdera AdaBoost-klassificeraren Exercise 5: Gradient Boosting (GB)Exercise 6: Definiera GB-regressorn Exercise 7: Träna GB-regressorn Exercise 8: Utvärdera GB-regressorn Exercise 9: Stokastisk gradientboostning (SGB)Exercise 10: Regression med SGB Exercise 11: Träna SGB-regressorn Exercise 12: Utvärdera SGB-regressorn

En maskininlärningsmodells hyperparametrar är parametrar som inte lärs in från data. De ska anges innan modellen anpassas till träningsdatan. I det här kapitlet lär du dig att justera hyperparametrarna hos en trädbaserad modell med hjälp av korsvalidering med rutnätssökning.

Exercise 1: Justera ett CART:s hyperparametrar Exercise 2: Trädets hyperparametrar Exercise 3: Ange trädets hyperparametergrid Exercise 4: Sök efter det optimala beslutsträdet Exercise 5: Utvärdera det optimala beslutsträdet Exercise 6: Justering av ett RF:s hyperparametrar Exercise 7: Hyperparametrar för Random Forests Exercise 8: Ange hyperparametergrid för RF Exercise 9: Sök efter den optimala skogen Exercise 10: Utvärdera den optimala skogen Exercise 11: Grattis!