Навчання з бутстрепінгом
Тепер побудуємо «слабкий» класифікатор дерева рішень і натренуємо його на вибірці з тренувальної вибірки, отриманій зі зворотним добором (із поверненням). Це допоможе вам зрозуміти, що відбувається на кожній ітерації ансамблю bagging.
Щоб взяти вибірку, ви скористаєтеся методом pandas .sample(), який має параметр replace. Наприклад, такий рядок коду робить вибірку зі зворотним добором з усього датафрейму df:
df.sample(frac=1.0, replace=True, random_state=42)
Ця вправа є частиною курсу
Ансамблеві методи в Python
Інструкції до вправи
- Візьміть вибірку зі зворотним добором (
replace=True) з усієї (frac=1.0) тренувальної вибіркиX_train. - Побудуйте класифікатор дерева рішень із параметром
max_depth = 4. - Навчіть модель на вибірці тренувальних даних.
Інтерактивна практична вправа
Спробуйте виконати цю вправу, доповнивши цей зразок коду.
# Take a sample with replacement
X_train_sample = X_train.____(____, ____, random_state=42)
y_train_sample = y_train.loc[X_train_sample.index]
# Build a "weak" Decision Tree classifier
clf = ____(____, random_state=500)
# Fit the model to the training sample
____