Tạo một kế hoạch cross validation

Có nhiều cách để triển khai một kế hoạch cross validation n-fold. Trong bài tập này, bạn sẽ tạo một kế hoạch như vậy bằng vtreat::kWayCrossValidation() và xem qua nó.

kWayCrossValidation() tạo một kế hoạch cross validation với lời gọi sau:

splitPlan <- kWayCrossValidation(nRows, nSplits, dframe, y)

trong đó nRows là số hàng dữ liệu cần chia, và nSplits là số lượng fold cross-validation mong muốn.

Nói chính xác thì dframe và y không được kWayCrossValidation sử dụng; chúng có mặt để tương thích với các hàm phân chia dữ liệu khác của vtreat. Bạn có thể đặt cả hai thành NULL.

splitPlan thu được là một danh sách gồm nSplits phần tử; mỗi phần tử chứa hai vector:

train: các chỉ số của dframe sẽ tạo thành tập huấn luyện
app: các chỉ số của dframe sẽ tạo thành tập kiểm tra (hoặc áp dụng)

Trong bài tập này, bạn sẽ tạo một kế hoạch cross-validation 3-fold cho bộ dữ liệu mpg.

Bài tập này là một phần của khóa học

Học có giám sát với R: Hồi quy

Xem khóa học

Hướng dẫn bài tập

Nạp gói vtreat.
Lấy số hàng trong mpg và gán vào biến nRows.
Gọi kWayCrossValidation để tạo kế hoạch cross validation 3-fold và gán vào biến splitPlan.
- Bạn có thể đặt hai đối số cuối của hàm là NULL.
Gọi str() để xem cấu trúc của splitPlan.

Bài tập tương tác thực hành trực tiếp

Hãy thử làm bài tập này bằng cách hoàn thành đoạn mã mẫu này.

# Load the package vtreat
___

# mpg is available
summary(mpg)

# Get the number of rows in mpg
nRows <- ___

# Implement the 3-fold cross-fold plan with vtreat
splitPlan <- ___

# Examine the split plan
___

Chỉnh sửa và Chạy Mã

Bài tập này là một phần của khóa học

Học có giám sát với R: Hồi quy

SkillTag.level.intermediateSkillTag.label

4.7+

Bắt đầu khóa học miễn phí

Trong chương này, chúng ta giới thiệu khái niệm hồi quy từ góc độ Machine Learning. Chúng ta sẽ trình bày phương pháp hồi quy nền tảng: hồi quy tuyến tính. Bạn sẽ học cách khớp (fit) một mô hình hồi quy tuyến tính và tạo dự đoán từ mô hình đó.

Exercise 1: Chào mừng và Giới thiệu Exercise 2: Nhận diện các nhiệm vụ regression Exercise 3: Hồi quy tuyến tính - phương pháp nền tảng Exercise 4: Viết mã hồi quy đơn biến đơn giản Exercise 5: Khám phá một mô hình Exercise 6: Dự đoán sau khi bạn đã khớp mô hình Exercise 7: Dự đoán từ mô hình thất nghiệp Exercise 8: Hồi quy tuyến tính đa biến (Phần 1)Exercise 9: Hồi quy tuyến tính đa biến (Phần 2)Exercise 10: Tổng kết về hồi quy tuyến tính

Sau khi đã biết cách khớp các mô hình hồi quy tuyến tính cơ bản, chúng ta sẽ học cách đánh giá hiệu quả của mô hình. Chúng ta sẽ xem lại việc đánh giá mô hình bằng đồ thị và tìm hiểu hai thước đo cơ bản cho mô hình hồi quy. Ta cũng sẽ học cách huấn luyện một mô hình có thể hoạt động tốt trong thực tế, không chỉ trên dữ liệu huấn luyện. Dù các kỹ thuật này được minh họa bằng hồi quy tuyến tính, toàn bộ khái niệm đều áp dụng cho các mô hình khớp bởi bất kỳ thuật toán hồi quy nào.

Exercise 1: Đánh giá mô hình bằng đồ thị Exercise 2: Đánh giá trực quan mô hình thất nghiệp Exercise 3: Đường cong tăng trưởng để đánh giá mô hình thất nghiệp Exercise 4: Sai số Bình phương Trung bình Căn (RMSE)Exercise 5: Tính RMSE Exercise 6: R-squared Exercise 7: Tính R-squared Exercise 8: Tương quan và R-squared Exercise 9: Huấn luyện mô hình đúng cách Exercise 10: Tạo ngẫu nhiên tập train/test Exercise 11: Huấn luyện mô hình bằng cách chia tập train/test Exercise 12: Đánh giá mô hình bằng cách chia train/test Exercise 13: Tạo một kế hoạch cross validation

Bài tập hiện tại

Exercise 14: Đánh giá một quy trình mô hình hóa bằng n-fold cross-validation

Trước khi chuyển sang các kỹ thuật hồi quy tinh vi hơn, chúng ta sẽ xem xét một số vấn đề khác trong mô hình hóa: mô hình hóa với biến phân loại, tương tác giữa các biến, và khi nào bạn nên cân nhắc biến đổi đầu vào và đầu ra trước khi mô hình hóa. Dù các kỹ thuật hồi quy nâng cao có thể tự động xử lý một số vấn đề này, điều quan trọng là bạn phải nhận biết chúng để hiểu phương pháp nào xử lý tốt từng vấn đề — và vấn đề nào bạn vẫn cần tự quản lý.

Exercise 1: Biến đầu vào dạng phân loại Exercise 2: Khám phá cấu trúc của biến đầu vào phân loại Exercise 3: Mô hình hóa với biến đầu vào phân loại Exercise 4: Tương tác Exercise 5: Mô hình hóa một tương tác Exercise 6: Mô hình hóa tương tác (2)Exercise 7: Biến đổi biến phản hồi trước khi xây dựng mô hình Exercise 8: Sai số tương đối Exercise 9: Mô hình hóa đầu ra tiền tệ đã log-transform Exercise 10: So sánh RMSE và Sai số tương đối bình phương trung bình căn Exercise 11: Biến đổi biến đầu vào trước khi mô hình hóa Exercise 12: Biến đổi đầu vào: dạng "gậy khúc côn cầu"Exercise 13: Biến đổi đầu vào: "hockey stick" (2)

Khi đã nắm vững các mô hình tuyến tính, chúng ta sẽ bắt đầu xem các kỹ thuật để mô hình hóa những tình huống không thỏa giả định tuyến tính. Điều này bao gồm dự đoán xác suất và tần suất (giá trị bị chặn trong khoảng từ 0 đến 1); dự đoán số đếm (các số nguyên không âm và các suất liên quan); và các phản hồi có quan hệ phi tuyến nhưng mang tính cộng với đầu vào. Các thuật toán này là những biến thể của mô hình tuyến tính chuẩn.

Exercise 1: Hồi quy logistic để dự đoán xác suất Exercise 2: Khớp mô hình dự đoán xác suất sẻ sống sót Exercise 3: Dự đoán khả năng sống sót của chim sẻ Exercise 4: Hồi quy Poisson và quasipoisson để dự đoán số đếm Exercise 5: Poisson hay quasipoisson Exercise 6: Khớp mô hình để dự đoán số lượt thuê xe đạp Exercise 7: Dự đoán số lượt thuê xe đạp trên dữ liệu mới Exercise 8: Trực quan hóa dự đoán thuê xe đạp Exercise 9: GAM để học các phép biến đổi phi tuyến Exercise 10: Viết công thức cho mô hình GAM Exercise 11: Viết công thức cho mô hình GAM (2)Exercise 12: Mô hình hóa tăng trưởng đậu nành với GAM Exercise 13: Dự đoán với mô hình soybean trên dữ liệu kiểm tra

Trong chương này, chúng ta sẽ xem các thuật toán mô hình hóa không giả định tính tuyến tính hay tính cộng, và có thể học một số dạng tương tác giới hạn giữa các biến đầu vào. Đây là các phương pháp dựa trên cây (tree-based), hoạt động bằng cách kết hợp các tập hợp (ensemble) của các cây quyết định (decision tree) được học từ dữ liệu huấn luyện.

Exercise 1: Trực giác đằng sau các phương pháp dựa trên cây Exercise 2: Dự đoán với cây quyết định Exercise 3: Random forests Exercise 4: Xây dựng mô hình random forest cho lượt thuê xe đạp Exercise 5: Dự đoán số lượt thuê xe đạp với mô hình random forest Exercise 6: Trực quan hóa dự đoán của mô hình random forest cho dữ liệu xe đạp Exercise 7: One-Hot-Encoding cho biến phân loại Exercise 8: vtreat trên một ví dụ nhỏ Exercise 9: Mức độ mới (novel levels)Exercise 10: Dùng vtreat cho dữ liệu thuê xe đạp Exercise 11: Gradient boosting machines Exercise 12: Tìm số lượng cây phù hợp cho gradient boosting machine Exercise 13: Huấn luyện mô hình xgboost cho thuê xe đạp và dự đoán Exercise 14: Đánh giá mô hình xgboost cho thuê xe đạp Exercise 15: Trực quan hóa mô hình xgboost cho dữ liệu thuê xe đạp