Latih pohon regresi pertama Anda

Dalam latihan ini, Anda akan melatih pohon regresi untuk memprediksi konsumsi mpg (mil per galon) mobil pada auto-mpg dataset menggunakan keenam fitur yang tersedia.

Himpunan data telah diproses untuk Anda dan dibagi menjadi 80% latih dan 20% uji. Matriks fitur X_train dan array y_train tersedia di workspace Anda.

Latihan ini merupakan bagian dari kursus

Machine Learning dengan Model Berbasis Pohon di Python

Instruksi latihan

Impor DecisionTreeRegressor dari sklearn.tree.
Instansiasi DecisionTreeRegressor dt dengan kedalaman maksimum 8 dan min_samples_leaf disetel ke 0.13.
Latih (fit) dt pada himpunan latih.

Latihan interaktif langsung praktik

Cobalah latihan ini dengan melengkapi kode contoh ini.

# Import DecisionTreeRegressor from sklearn.tree
from ____.____ import ____

# Instantiate dt
____ = ____(max_depth=____,
             ____=____,
            random_state=3)

# Fit dt to the training set
____.____(____, ____)

Edit dan Jalankan Kode

Latihan ini merupakan bagian dari kursus

Machine Learning dengan Model Berbasis Pohon di Python

SkillTag.level.intermediateSkillTag.label

4.9+

Mulai Kursus Gratis

Classification and Regression Trees (CART) adalah sekumpulan model pembelajaran terawasi yang digunakan untuk permasalahan klasifikasi dan regresi. Pada bab ini, Anda akan diperkenalkan pada algoritma CART.

Exercise 1: Pohon keputusan untuk klasifikasi Exercise 2: Latih pohon klasifikasi pertama Anda Exercise 3: Evaluasi pohon klasifikasi Exercise 4: Logistic regression vs classification tree Exercise 5: Pembelajaran pohon klasifikasi Exercise 6: Membangun pohon klasifikasi Exercise 7: Menggunakan entropy sebagai kriteria Exercise 8: Entropi vs Indeks Gini Exercise 9: Pohon keputusan untuk regresi Exercise 10: Latih pohon regresi pertama Anda

Latihan Saat Ini

Exercise 11: Evaluasi pohon regresi Exercise 12: Regresi linear vs pohon regresi

Trade-off bias-variance adalah salah satu konsep mendasar dalam Machine Learning terawasi. Pada bab ini, Anda akan memahami cara mendiagnosis masalah overfitting dan underfitting. Anda juga akan diperkenalkan pada konsep ensembling, yaitu ketika prediksi dari beberapa model digabungkan untuk menghasilkan prediksi yang lebih tangguh.

Exercise 1: Galat Generalisasi Exercise 2: Kompleksitas, bias, dan varians Exercise 3: Overfitting dan underfitting Exercise 4: Mendiagnosis masalah bias dan varians Exercise 5: Inisialisasi model Exercise 6: Evaluasi galat CV 10-fold Exercise 7: Evaluasi galat pelatihan Exercise 8: Bias tinggi atau varians tinggi?Exercise 9: Ensemble Learning Exercise 10: Mendefinisikan ensemble Exercise 11: Evaluasi pengklasifikasi individual Exercise 12: Kinerja lebih baik dengan Voting Classifier

Bagging adalah metode ensemble yang melibatkan pelatihan algoritma yang sama berkali-kali menggunakan subset berbeda yang diambil dari data pelatihan. Pada bab ini, Anda akan memahami bagaimana bagging dapat digunakan untuk membangun ensemble pohon. Anda juga akan mempelajari bagaimana algoritma random forests dapat meningkatkan keragaman ensemble melalui pengacakan pada tingkat setiap pemisahan di dalam pohon-pohon yang membentuk ensemble.

Exercise 1: Bagging Exercise 2: Definisikan bagging classifier Exercise 3: Evaluasi kinerja Bagging Exercise 4: Evaluasi Out-of-Bag Exercise 5: Persiapkan landasan Exercise 6: Skor OOB vs Skor Test Set Exercise 7: Random Forests (RF)Exercise 8: Latih sebuah regresor RF Exercise 9: Evaluasi RF regressor Exercise 10: Memvisualisasikan pentingnya fitur

Boosting mengacu pada metode ensemble di mana beberapa model dilatih secara berurutan dan setiap model belajar dari kesalahan pendahulunya. Pada bab ini, Anda akan diperkenalkan pada dua metode boosting: AdaBoost dan Gradient Boosting.

Exercise 1: Adaboost Exercise 2: Definisikan classifier AdaBoost Exercise 3: Latih pengklasifikasi AdaBoost Exercise 4: Evaluasi pengklasifikasi AdaBoost Exercise 5: Gradient Boosting (GB)Exercise 6: Definisikan regressor GB Exercise 7: Latih regressor GB Exercise 8: Evaluasi GB regressor Exercise 9: Stochastic Gradient Boosting (SGB)Exercise 10: Regresi dengan SGB Exercise 11: Latih regressor SGB Exercise 12: Evaluasi SGB regressor

Hiperparameter pada sebuah model Machine Learning adalah parameter yang tidak dipelajari dari data. Parameter ini harus ditetapkan sebelum menyesuaikan model ke himpunan pelatihan. Pada bab ini, Anda akan mempelajari cara menyetel hiperparameter model berbasis pohon menggunakan grid search cross validation.

Exercise 1: Menyetel Hyperparameter CART Exercise 2: Hiperparameter pohon Exercise 3: Atur grid hyperparameter untuk tree Exercise 4: Cari pohon yang optimal Exercise 5: Evaluasi pohon optimal Exercise 6: Menyetel Hyperparameter RF Exercise 7: Hyperparameter random forests Exercise 8: Tetapkan grid hyperparameter untuk RF Exercise 9: Cari hutan yang optimal Exercise 10: Evaluasi hutan optimal Exercise 11: Selamat!