Um modelo de gradient boosting

Agora vamos ajustar um modelo de gradient boosting (GB). Dizem por aí que um modelo linear é como um Toyota Camry, e GB é como um helicóptero Black Hawk. GB tem potencial para superar random forests, mas nem sempre consegue. Isso é o que chamamos de teorema do almoço grátis não existe, que indica que devemos sempre testar vários modelos diferentes para cada problema.

GB é parecido com modelos de random forest, mas a diferença é que as árvores são construídas de forma sucessiva. A cada iteração, a próxima árvore ajusta os erros residuais da árvore anterior para melhorar o ajuste.

Por enquanto, não vamos buscar hiperparâmetros — isso já foi feito para você.

Este exercicio faz parte do curso

Machine Learning para Finanças em Python

Ver curso

Instruções do exercicio

Crie um objeto GradientBoostingRegressor com os hiperparâmetros que já foram definidos para você.
Ajuste o modelo gbr aos train_features e train_targets.
Imprima as pontuações para os conjuntos de treino e teste (features e targets).

exercicio interativo prático

Tente este exercicio completando este código de exemplo.

from sklearn.ensemble import GradientBoostingRegressor

# Create GB model -- hyperparameters have already been searched for you
gbr = ____(max_features=4,
                                learning_rate=0.01,
                                n_estimators=200,
                                subsample=0.6,
                                random_state=42)
gbr.fit(____)

print(gbr.score(train_features, train_targets))
____

Editar e Executar Código