GAM 모델을 위한 수식 작성하기

이제 기본 선형 회귀 모델을 적합하는 방법을 배웠으니, 모델이 얼마나 잘 작동하는지 평가하는 방법을 살펴보겠습니다. 그래프를 활용한 평가를 검토하고, 회귀 모델의 두 가지 기본 지표를 알아봅니다. 또한 학습 데이터에만 잘 맞는 것이 아니라 실제 환경에서도 잘 작동하는 모델을 학습하는 방법을 배웁니다. 예시는 선형 회귀로 보여드리지만, 이 개념들은 어떤 회귀 알고리즘으로 학습한 모델에도 모두 적용됩니다.

Exercise 1: 그래프로 모델 평가하기 Exercise 2: 실업률 모델을 그래프로 평가하기 Exercise 3: 실업 모델을 평가하는 게인 곡선 Exercise 4: 평균제곱근오차(RMSE)Exercise 5: RMSE 계산하기 Exercise 6: 결정계수 (R-squared)Exercise 7: R-squared 계산하기 Exercise 8: 상관계수와 R-제곱 Exercise 9: 모델을 제대로 학습시키기 Exercise 10: 무작위 테스트/훈련 분할 생성하기 Exercise 11: 테스트/훈련 분할을 사용해 모델 학습하기 Exercise 12: test/train 분할로 모델 평가하기 Exercise 13: 교차 검증 계획 만들기 Exercise 14: n-폴드 교차 검증으로 모델링 절차 평가하기

더 발전된 회귀 기법으로 넘어가기 전에, 다른 모델링 이슈들을 살펴보겠습니다. 범주형 입력을 이용한 모델링, 변수 간 상호작용, 그리고 모델링 전에 입력과 출력을 변환하는 것을 언제 고려해야 하는지입니다. 더 정교한 회귀 기법 중 일부는 이러한 이슈를 자동으로 다루지만, 어떤 방법이 어떤 이슈를 잘 처리하는지 이해하고, 어떤 이슈는 여전히 직접 관리해야 하는지 아는 것이 중요합니다.

Exercise 1: 범주형 입력 Exercise 2: 범주형 입력의 구조 살펴보기 Exercise 3: 범주형 입력으로 모델링하기 Exercise 4: 상호작용 Exercise 5: 상호작용 모형화하기 Exercise 6: 상호작용 항 모델링 (2)Exercise 7: 모델링 전에 반응 변수를 변환하기 Exercise 8: 상대 오차 Exercise 9: 로그 변환한 금액형 출력 변수 모델링 Exercise 10: RMSE와 루트 평균제곱 상대 오차 비교 Exercise 11: 모델링 전에 입력 변환하기 Exercise 12: 입력 변환: "하키 스틱"Exercise 13: 입력 변환: "하키 스틱" (2)

이제 선형 모델을 익혔으니, 선형성 가정을 만족하지 않는 상황을 모델링하는 기법을 살펴보겠습니다. 여기에는 확률과 빈도(0과 1 사이의 값)를 예측하는 문제, 개수(음이 아닌 정수값 및 이에 따른 비율)를 예측하는 문제, 그리고 입력과의 관계가 비선형이지만 가법적인 반응을 예측하는 문제가 포함됩니다. 이 알고리즘들은 표준 선형 모델의 변형입니다.

Exercise 1: 확률 예측을 위한 로지스틱 회귀 Exercise 2: 참새의 생존 확률 모델 적합하기 Exercise 3: 참새 생존 예측하기 Exercise 4: 카운트 예측을 위한 포아송 및 준포아송 회귀 Exercise 5: Poisson 또는 quasipoisson Exercise 6: 자전거 대여 건수를 예측하는 모델 적합하기 Exercise 7: 새 데이터로 자전거 대여 수 예측하기 Exercise 8: 자전거 대여 예측 시각화하기 Exercise 9: 비선형 변환을 학습하는 GAM Exercise 10: GAM 모델을 위한 수식 작성하기

현재 연습

Exercise 11: GAM 모델을 위한 수식 작성 (2)Exercise 12: GAM으로 콩 재배 성장 모델링하기 Exercise 13: 테스트 데이터에 콩 모델로 예측하기

이 장에서는 선형성이나 가법성을 가정하지 않고, 입력 변수들 사이의 제한된 형태의 상호작용을 학습할 수 있는 모델링 알고리즘을 살펴봅니다. 이러한 알고리즘은 학습 데이터로부터 학습된 여러 개의 의사결정나무를 앙상블로 결합하는 트리 기반 방법입니다.

Exercise 1: 트리 기반 방법의 직관 Exercise 2: 의사결정나무로 예측하기 Exercise 3: 랜덤 포레스트 Exercise 4: 자전거 대여량을 위한 랜덤 포레스트 모델 만들기 Exercise 5: 랜덤 포레스트 모델로 자전거 대여량 예측하기 Exercise 6: 랜덤 포레스트 자전거 모델 예측 시각화 Exercise 7: 범주형 변수를 원-핫 인코딩하기 Exercise 8: 작은 예제로 vtreat 사용하기 Exercise 9: 새로운 범주 수준(Novel levels)Exercise 10: vtreat로 자전거 대여 데이터 전처리하기 Exercise 11: Gradient boosting machines Exercise 12: Gradient Boosting Machine에 적합한 트리 개수 찾기 Exercise 13: xgboost로 자전거 대여 모델 적합 및 예측 Exercise 14: xgboost 자전거 대여 모델 평가하기 Exercise 15: xgboost 자전거 대여 모델 시각화