Стекинг моделей II
Итак, вот что вы уже реализовали в рамках стекинга:
- Разбили обучающие данные на две части
- Обучили несколько моделей на первой части
- Получили предсказания для второй части
- Получили предсказания для тестовых данных
Теперь ваша задача — создать модель второго уровня, используя предсказания из шагов 3 и 4 в качестве признаков. Эта модель обучается на данных второй части, после чего можно получить итоговые предсказания стекинга на тестовых данных.
Датафреймы part_2 и test уже доступны в вашем рабочем пространстве. Предсказания градиентного бустинга и случайного леса хранятся в этих датафреймах под именами "gb_pred" и "rf_pred" соответственно.
Это упражнение является частью курса
Победа в соревновании Kaggle на Python
Инструкции к упражнению
- Обучите модель линейной регрессии на данных второй части, используя предсказания моделей градиентного бустинга и случайного леса в качестве признаков.
- Получите предсказания на тестовых данных, используя предсказания моделей градиентного бустинга и случайного леса в качестве признаков.
Интерактивное практическое упражнение
Попробуйте выполнить это упражнение, дополнив этот пример кода.
from sklearn.linear_model import LinearRegression
# Create linear regression model without the intercept
lr = LinearRegression(fit_intercept=False)
# Train 2nd level model on the Part 2 data
lr.____(part_2[['gb_pred', '____']], part_2.fare_amount)
# Make stacking predictions on the test data
test['stacking'] = lr.____(test[['gb_pred', '____']])
# Look at the model coefficients
print(lr.coef_)