Обучение с бутстрэпингом
Теперь построим «слабый» классификатор на основе дерева решений и обучим его на выборке из обучающего набора, взятой с возвращением. Это поможет вам понять, что происходит на каждой итерации ансамбля бэггинга.
Для формирования выборки используйте метод .sample() из библиотеки pandas, который принимает параметр replace. Например, следующая строка кода формирует выборку с возвращением из всего датафрейма df:
df.sample(frac=1.0, replace=True, random_state=42)
Это упражнение является частью курса
Ансамблевые методы в Python
Инструкции к упражнению
- Возьмите выборку с возвращением (
replace=True) из всего (frac=1.0) обучающего набораX_train. - Постройте классификатор на основе дерева решений, задав параметр
max_depth = 4. - Обучите модель на полученной выборке из обучающих данных.
Интерактивное практическое упражнение
Попробуйте выполнить это упражнение, дополнив этот пример кода.
# Take a sample with replacement
X_train_sample = X_train.____(____, ____, random_state=42)
y_train_sample = y_train.loc[X_train_sample.index]
# Build a "weak" Decision Tree classifier
clf = ____(____, random_state=500)
# Fit the model to the training sample
____