Skriva formler för GAM-modeller

När du använder gam() (docs) för att modellera utfallet som en additiv funktion av ingångsvariablerna, kan du använda funktionen s() (docs) i formler för att ange att du vill använda en spline för att modellera det icke-linjära sambandet mellan en kontinuerlig variabel och utfallet.

Anta att du vill förutsäga hur mycket vikt (Wtloss) en person på diet kommer att gå ner under en 2-årig dietplan, som en funktion av:

Diet-typ (kategorisk)
Sex (kategorisk)
Age vid dietens start (kontinuerlig)
BMI (body mass index) vid dietens start (kontinuerlig)

Du vill inte anta att något av sambanden är linjärt.

Vilken formel är mest lämplig?

Den här övningen är en del av kursen

Övervakad inlärning i R: Regression

Interaktiv övning med praktiskt arbete

Gör teori till handling med en av våra interaktiva övningar

Starta övningen

Den här övningen är en del av kursen

Övervakad inlärning i R: Regression

SkillTag.level.intermediateSkillTag.label

4.7+

Starta kursen gratis

I det här kapitlet introducerar vi begreppet regression ur ett maskininlärningsperspektiv. Vi går igenom den grundläggande regressionsmetoden: linjär regression. Du får lära dig hur du anpassar en linjär regressionsmodell och hur du gör förutsägelser med den.

Exercise 1: Välkommen och introduktion Exercise 2: Identifiera regressionsuppgifterna Exercise 3: Linjär regression – den grundläggande metoden Exercise 4: Koda en enkel regression med en variabel Exercise 5: Utforska en modell Exercise 6: Att göra prediktioner efter att du anpassat en modell Exercise 7: Prediktioner från arbetslöshetsmodellen Exercise 8: Multivariat linjär regression (Del 1)Exercise 9: Multivariat linjär regression (del 2)Exercise 10: Sammanfattning av linjär regression

Nu när du vet hur man anpassar grundläggande linjära regressionsmodeller är det dags att lära sig utvärdera hur väl modellerna presterar. Vi går igenom grafisk modellutvärdering och tittar på två grundläggande mätvärden för regressionsmodeller. Du lär dig också hur du tränar en modell som fungerar bra på ny data, inte bara på träningsdata. Även om vi demonstrerar teknikerna med linjär regression gäller alla dessa koncept för modeller anpassade med vilken regressionsalgoritm som helst.

Exercise 1: Utvärdera en modell grafiskt Exercise 2: Utvärdera arbetslöshetsmodellen grafiskt Exercise 3: Gainskurvan för att utvärdera arbetslöshetsmodellen Exercise 4: Medelkvadratrotfel (RMSE)Exercise 5: Beräkna RMSE Exercise 6: R-kvadrat Exercise 7: Beräkna R-kvadrat Exercise 8: Korrelation och R-kvadrat Exercise 9: Träna en modell på rätt sätt Exercise 10: Skapa en slumpmässig test- och träningsuppdelning Exercise 11: Träna en modell med test/träningsuppdelning Exercise 12: Utvärdera en modell med test/träningsuppdelning Exercise 13: Skapa en korsvalideringsplan Exercise 14: Utvärdera en modelleringsprocess med n-delad korsvalidering

Innan vi går vidare till mer avancerade regressionstekniker tittar vi på ytterligare modelleringsfrågor: modellering med kategoriska indata, interaktioner mellan variabler och när det kan vara lämpligt att transformera indata och utdata före modellering. Mer avancerade regressionstekniker hanterar vissa av dessa frågor automatiskt, men det är viktigt att känna till dem för att förstå vilka metoder som passar bäst i olika situationer – och vilka frågor du fortfarande behöver hantera själv.

Exercise 1: Kategoriska indata Exercise 2: Undersöka strukturen hos kategoriska variabler Exercise 3: Modellering med kategoriska variabler Exercise 4: Interaktioner Exercise 5: Modellera en interaktion Exercise 6: Modellera en interaktion (2)Exercise 7: Att transformera utfallsvariabeln innan modellering Exercise 8: Relativt fel Exercise 9: Modellering av log-transformerade monetära utfall Exercise 10: Jämföra RMSE och rotmedelkvadrat för relativt fel Exercise 11: Att transformera indata före modellering Exercise 12: Inputtransformeringar: "hockeyklubban"Exercise 13: Inputtransformationer: "hockeyklubban" (2)

Nu när du behärskar linjära modeller börjar vi titta på tekniker för att modellera situationer som inte uppfyller antagandena om linjäritet. Det inkluderar att förutsäga sannolikheter och frekvenser (värden begränsade till intervallet 0 till 1), förutsäga antal (icke-negativa heltalsvärden och tillhörande rater) samt utfall som har ett icke-linjärt men additivt samband med indatan. Dessa algoritmer är varianter av den vanliga linjära modellen.

Exercise 1: Logistisk regression för att förutsäga sannolikheter Exercise 2: Anpassa en modell för sparvars överlevnadssannolikhet Exercise 3: Förutsäg sparvsparvarnas överlevnad Exercise 4: Poisson- och quasipoissonregression för att förutsäga antal Exercise 5: Poisson eller quasipoisson Exercise 6: Anpassa en modell för att förutsäga antal cykeluthyrningar Exercise 7: Förutsäg cykeluthyrningar på nya data Exercise 8: Visualisera förutsägelserna för cykeluthyrning Exercise 9: GAM för att lära sig icke-linjära transformationer Exercise 10: Skriva formler för GAM-modeller

Aktuell övning

Exercise 11: Skriva formler för GAM-modeller (2)Exercise 12: Modellera sojabönsväxt med GAM Exercise 13: Förutsäg med sojabönmodellen på testdata

I det här kapitlet tittar vi på modelleringsalgoritmer som inte förutsätter linjäritet eller additivitet, och som kan lära sig begränsade typer av interaktioner mellan indatavariabler. Det handlar om *trädbaserade* metoder som bygger på att kombinera ensembler av *beslutsträd* som lärts in från träningsdata.

Exercise 1: Intuitionen bakom trädbaserade metoder Exercise 2: Förutsägelser med ett beslutsträd Exercise 3: Slumpskogar Exercise 4: Bygg en random forest-modell för cykeluthyrning Exercise 5: Prediktera cykeluthyrningar med random forest-modellen Exercise 6: Visualisera förutsägelser från cykelmodellen med random forest Exercise 7: One-hot-kodning av kategoriska variabler Exercise 8: vtreat på ett litet exempel Exercise 9: Nya nivåer Exercise 10: Tillämpa vtreat på cykeluthyrningsdata Exercise 11: Gradientförstärkta maskiner Exercise 12: Hitta rätt antal träd för en gradientboostningsmaskin Exercise 13: Anpassa en xgboost-modell för cykeluthyrning och gör prediktioner Exercise 14: Utvärdera xgboost-modellen för cykeluthyrning Exercise 15: Visualisera xgboost-modellen för cykeluthyrning