Mức độ mới (novel levels)

Khi một mức của biến phân loại hiếm gặp, đôi khi nó sẽ không xuất hiện trong dữ liệu huấn luyện. Nếu mức hiếm đó xuất hiện trong dữ liệu tương lai, các mô hình phía sau có thể không biết xử lý ra sao. Khi các mức độ mới như vậy xuất hiện, việc dùng model.matrix hoặc caret::dummyVars để one-hot-encode sẽ không hoạt động đúng.

vtreat là một lựa chọn "an toàn" hơn so với model.matrix để one-hot-encode, vì nó có thể xử lý an toàn các mức độ mới. vtreat cũng xử lý giá trị thiếu trong dữ liệu (cả biến phân loại và biến liên tục).

Trong bài tập này, bạn sẽ xem vtreat xử lý các giá trị phân loại không xuất hiện trong tập huấn luyện như thế nào. Kế hoạch xử lý treatplan và tập biến newvars từ bài trước vẫn còn. dframe và một data frame mới testframe đã được nạp sẵn.

Bài tập này là một phần của khóa học

Học có giám sát với R: Hồi quy

Xem khóa học

Hướng dẫn bài tập

In dframe và testframe.
- Có màu nào trong testframe không xuất hiện trong dframe không?
Gọi prepare() để tạo phiên bản one-hot-encoded của testframe (không kèm biến kết quả). Đặt tên là testframe.treat và in nó ra.
- Dùng đối số varRestriction để chỉ giới hạn ở các biến trong newvars.
- Các hàng có màu yellow được mã hóa như thế nào?

Bài tập tương tác thực hành trực tiếp

Hãy thử làm bài tập này bằng cách hoàn thành đoạn mã mẫu này.

# treatplan is available
summary(treatplan)

# newvars is available
newvars

# Print dframe and testframe
___
___

# Use prepare() to one-hot-encode testframe
(testframe.treat <- ___(___, ___, varRestriction = ___))

Chỉnh sửa và Chạy Mã

Bài tập này là một phần của khóa học

Học có giám sát với R: Hồi quy

SkillTag.level.intermediateSkillTag.label

4.7+

Bắt đầu khóa học miễn phí

Trong chương này, chúng ta giới thiệu khái niệm hồi quy từ góc độ Machine Learning. Chúng ta sẽ trình bày phương pháp hồi quy nền tảng: hồi quy tuyến tính. Bạn sẽ học cách khớp (fit) một mô hình hồi quy tuyến tính và tạo dự đoán từ mô hình đó.

Exercise 1: Chào mừng và Giới thiệu Exercise 2: Nhận diện các nhiệm vụ regression Exercise 3: Hồi quy tuyến tính - phương pháp nền tảng Exercise 4: Viết mã hồi quy đơn biến đơn giản Exercise 5: Khám phá một mô hình Exercise 6: Dự đoán sau khi bạn đã khớp mô hình Exercise 7: Dự đoán từ mô hình thất nghiệp Exercise 8: Hồi quy tuyến tính đa biến (Phần 1)Exercise 9: Hồi quy tuyến tính đa biến (Phần 2)Exercise 10: Tổng kết về hồi quy tuyến tính

Sau khi đã biết cách khớp các mô hình hồi quy tuyến tính cơ bản, chúng ta sẽ học cách đánh giá hiệu quả của mô hình. Chúng ta sẽ xem lại việc đánh giá mô hình bằng đồ thị và tìm hiểu hai thước đo cơ bản cho mô hình hồi quy. Ta cũng sẽ học cách huấn luyện một mô hình có thể hoạt động tốt trong thực tế, không chỉ trên dữ liệu huấn luyện. Dù các kỹ thuật này được minh họa bằng hồi quy tuyến tính, toàn bộ khái niệm đều áp dụng cho các mô hình khớp bởi bất kỳ thuật toán hồi quy nào.

Exercise 1: Đánh giá mô hình bằng đồ thị Exercise 2: Đánh giá trực quan mô hình thất nghiệp Exercise 3: Đường cong tăng trưởng để đánh giá mô hình thất nghiệp Exercise 4: Sai số Bình phương Trung bình Căn (RMSE)Exercise 5: Tính RMSE Exercise 6: R-squared Exercise 7: Tính R-squared Exercise 8: Tương quan và R-squared Exercise 9: Huấn luyện mô hình đúng cách Exercise 10: Tạo ngẫu nhiên tập train/test Exercise 11: Huấn luyện mô hình bằng cách chia tập train/test Exercise 12: Đánh giá mô hình bằng cách chia train/test Exercise 13: Tạo một kế hoạch cross validation Exercise 14: Đánh giá một quy trình mô hình hóa bằng n-fold cross-validation

Trước khi chuyển sang các kỹ thuật hồi quy tinh vi hơn, chúng ta sẽ xem xét một số vấn đề khác trong mô hình hóa: mô hình hóa với biến phân loại, tương tác giữa các biến, và khi nào bạn nên cân nhắc biến đổi đầu vào và đầu ra trước khi mô hình hóa. Dù các kỹ thuật hồi quy nâng cao có thể tự động xử lý một số vấn đề này, điều quan trọng là bạn phải nhận biết chúng để hiểu phương pháp nào xử lý tốt từng vấn đề — và vấn đề nào bạn vẫn cần tự quản lý.

Exercise 1: Biến đầu vào dạng phân loại Exercise 2: Khám phá cấu trúc của biến đầu vào phân loại Exercise 3: Mô hình hóa với biến đầu vào phân loại Exercise 4: Tương tác Exercise 5: Mô hình hóa một tương tác Exercise 6: Mô hình hóa tương tác (2)Exercise 7: Biến đổi biến phản hồi trước khi xây dựng mô hình Exercise 8: Sai số tương đối Exercise 9: Mô hình hóa đầu ra tiền tệ đã log-transform Exercise 10: So sánh RMSE và Sai số tương đối bình phương trung bình căn Exercise 11: Biến đổi biến đầu vào trước khi mô hình hóa Exercise 12: Biến đổi đầu vào: dạng "gậy khúc côn cầu"Exercise 13: Biến đổi đầu vào: "hockey stick" (2)

Khi đã nắm vững các mô hình tuyến tính, chúng ta sẽ bắt đầu xem các kỹ thuật để mô hình hóa những tình huống không thỏa giả định tuyến tính. Điều này bao gồm dự đoán xác suất và tần suất (giá trị bị chặn trong khoảng từ 0 đến 1); dự đoán số đếm (các số nguyên không âm và các suất liên quan); và các phản hồi có quan hệ phi tuyến nhưng mang tính cộng với đầu vào. Các thuật toán này là những biến thể của mô hình tuyến tính chuẩn.

Exercise 1: Hồi quy logistic để dự đoán xác suất Exercise 2: Khớp mô hình dự đoán xác suất sẻ sống sót Exercise 3: Dự đoán khả năng sống sót của chim sẻ Exercise 4: Hồi quy Poisson và quasipoisson để dự đoán số đếm Exercise 5: Poisson hay quasipoisson Exercise 6: Khớp mô hình để dự đoán số lượt thuê xe đạp Exercise 7: Dự đoán số lượt thuê xe đạp trên dữ liệu mới Exercise 8: Trực quan hóa dự đoán thuê xe đạp Exercise 9: GAM để học các phép biến đổi phi tuyến Exercise 10: Viết công thức cho mô hình GAM Exercise 11: Viết công thức cho mô hình GAM (2)Exercise 12: Mô hình hóa tăng trưởng đậu nành với GAM Exercise 13: Dự đoán với mô hình soybean trên dữ liệu kiểm tra

Trong chương này, chúng ta sẽ xem các thuật toán mô hình hóa không giả định tính tuyến tính hay tính cộng, và có thể học một số dạng tương tác giới hạn giữa các biến đầu vào. Đây là các phương pháp dựa trên cây (tree-based), hoạt động bằng cách kết hợp các tập hợp (ensemble) của các cây quyết định (decision tree) được học từ dữ liệu huấn luyện.

Exercise 1: Trực giác đằng sau các phương pháp dựa trên cây Exercise 2: Dự đoán với cây quyết định Exercise 3: Random forests Exercise 4: Xây dựng mô hình random forest cho lượt thuê xe đạp Exercise 5: Dự đoán số lượt thuê xe đạp với mô hình random forest Exercise 6: Trực quan hóa dự đoán của mô hình random forest cho dữ liệu xe đạp Exercise 7: One-Hot-Encoding cho biến phân loại Exercise 8: vtreat trên một ví dụ nhỏ Exercise 9: Mức độ mới (novel levels)

Bài tập hiện tại

Exercise 10: Dùng vtreat cho dữ liệu thuê xe đạp Exercise 11: Gradient boosting machines Exercise 12: Tìm số lượng cây phù hợp cho gradient boosting machine Exercise 13: Huấn luyện mô hình xgboost cho thuê xe đạp và dự đoán Exercise 14: Đánh giá mô hình xgboost cho thuê xe đạp Exercise 15: Trực quan hóa mô hình xgboost cho dữ liệu thuê xe đạp