Bagging vs. boosting

Termerna bagging och boosting kan låta liknande, men det är två maskininlärningsalgoritmer som följer olika principer. Vad är en av de viktigaste skillnaderna mellan baggade träd och boostade träd?

Den här övningen är en del av kursen

Maskininlärning med trädbaserade modeller i R

Interaktiv övning med praktiskt arbete

Gör teori till handling med en av våra interaktiva övningar

Starta övningen

Den här övningen är en del av kursen

Maskininlärning med trädbaserade modeller i R

SkillTag.level.beginnerSkillTag.label

4.9+

Starta kursen gratis

Redo att bygga en riktig maskininlärningspipeline? Gå igenom steg-för-steg-övningar och lär dig att skapa beslutsträd, dela upp din data och förutsäga vilka patienter som löper störst risk att drabbas av diabetes. Avslutningsvis bygger du prestationsmått för att utvärdera dina modeller och bedöma dina förutsägelser.

Exercise 1: Välkommen till kursen!Exercise 2: Varför trädbaserade metoder?Exercise 3: Specificera ditt träd Exercise 4: Träna modellen Exercise 5: Hur du bygger ditt beslutsträd Exercise 6: Tränings- och testuppdelning Exercise 7: Undvika klassobalans Exercise 8: Från noll till färdig modell Exercise 9: Förutsäg och utvärdera Exercise 10: Gör förutsägelser Exercise 11: Knäck matrisen Exercise 12: Förutsäger du rätt?

Redo att dyka in i regressionsträd? Använd ett dataset med chokladbetyg för att bygga regressionsträd och utvärdera deras prestanda med lämpliga felmått. Du övervinner de statistiska svagheterna hos enstaka tränings- och testuppdelningar genom att tillämpa tekniker som korsvalidering, och fördjupar dig ytterligare genom att bemästra avvägningen mellan bias och varians.

Exercise 1: Kontinuerliga utfall Exercise 2: Träna ett regressionsträd Exercise 3: Förutsäg nya värden Exercise 4: Granska modellens utdata Exercise 5: Prestandamått för regressionsträd Exercise 6: Träningsprestation Exercise 7: Prestanda på ny data Exercise 8: Större fel, hårdare straff Exercise 9: Korsvalidering Exercise 10: Skapa vecken Exercise 11: Anpassa vecken Exercise 12: Utvärdera vikningarna Exercise 13: Bias-varians-avvägning Exercise 14: Rätt namn på rätt sak Exercise 15: Justera modellens komplexitet Exercise 16: Prestanda på tränings- och testdata

Dags att ta hyperparametertuning och tolkning av ROC-kurvor (receiver operating characteristic) på allvar. I det här kapitlet utnyttjar du styrkan i ensemblemodeller som bagging och slumpskogar, och bygger ensembler som förutsäger vilka kreditkortskunder som är mest benägna att lämna.

Exercise 1: Justera hyperparametrar Exercise 2: Skapa ett justeringsnät Exercise 3: Finjustera längs rutnätet Exercise 4: Välj den bästa modellen Exercise 5: Fler modellmått Exercise 6: Beräkna specificitet Exercise 7: Rita ROC-kurvan Exercise 8: Arean under ROC-kurvan Exercise 9: Baggade träd Exercise 10: Skapa baggade träd Exercise 11: In-sample ROC och AUC Exercise 12: Kontrollera för överanpassning Exercise 13: Slumpmässig skog Exercise 14: Baggade träd vs. random forest Exercise 15: Variabelviktighet

Redo för de mest avancerade trädbaserade modellerna? Tillämpa gradientboostning för att skapa kraftfulla ensembler som överträffar allt du tidigare sett eller byggt. Lär dig att finjustera dem och hur du jämför olika modeller för att välja den bästa för produktion.

Exercise 1: Introduktion till boosting Exercise 2: Bagging vs. boosting

Aktuell övning

Exercise 3: Specificera ett boostat ensemble Exercise 4: Gradientförstärkning Exercise 5: Träna ett boostat ensemble Exercise 6: Utvärdera ensemblen Exercise 7: Jämför med en enkel klassificerare Exercise 8: Optimera det boostade ensemblet Exercise 9: Förberedelse för finjustering Exercise 10: Själva justeringen Exercise 11: Färdigställ modellen Exercise 12: Modelljämförelse Exercise 13: Jämför AUC Exercise 14: Rita ROC-kurvor Exercise 15: Avslutning