1. Học hỏi
    2. /
  2. Khoa Học
    3. /
  3. Machine Learning cho Tài chính bằng Python
Connected

Bài tập

Ensembling mô hình

Một cách để cải thiện dự đoán từ các mô hình Machine Learning là ensembling. Cách đơn giản là lấy trung bình dự đoán từ nhiều mô hình. Cách phức tạp hơn là đưa dự đoán của các mô hình vào một mô hình khác để tạo ra dự đoán cuối cùng. Cả hai thường sẽ cải thiện hiệu suất tổng thể (miễn là từng mô hình thành phần đủ tốt). Nếu bạn còn nhớ, random forest cũng là một dạng ensembling của nhiều cây quyết định.

Để ensemble các dự đoán từ neural net, bạn sẽ tạo dự đoán bằng 3 mô hình vừa xây dựng — mô hình cơ bản, mô hình dùng hàm mất mát tùy chỉnh, và mô hình có dropout. Sau đó, gộp các dự đoán bằng hàm .hstack() của numpy, và lấy trung bình theo từng hàng với np.mean(predictions, axis=1).

Hướng dẫn

100 XP
  • Tạo dự đoán trên scaled_train_features và scaled_test_features cho 3 mô hình đã fit (model_1, model_2, model_3) bằng phương thức .predict().
  • Ghép ngang (dùng np.hstack()) các dự đoán thành một ma trận, rồi lấy trung bình theo hàng để thu được dự đoán trung bình cho tập train và test.