Definir o classificador AdaBoost

Nos exercícios a seguir, você revisitará o conjunto de dados do Indian Liver Patient que foi apresentado no capítulo anterior. Sua tarefa é prever se um paciente sofre de uma doença hepática usando 10 recursos, incluindo albumina, idade e sexo. Entretanto, desta vez, você treinará um agrupamento AdaBoost para executar a tarefa de classificação. Além disso, como esse conjunto de dados é desequilibrado, você usará a pontuação ROC AUC como métrica em vez de precisão.

Como primeira etapa, você começará instanciando um classificador AdaBoost.

Este exercício faz parte do curso

Aprendizado de máquina com modelos baseados em árvores em Python

Instruções de exercício

Importe AdaBoostClassifier de sklearn.ensemble.
Instancie um DecisionTreeClassifier com max_depth definido como 2.
Instancie um AdaBoostClassifier que consiste em 180 árvores e defina base_estimator como dt.

Exercício interativo prático

Experimente este exercício preenchendo este código de exemplo.

# Import DecisionTreeClassifier
from sklearn.tree import DecisionTreeClassifier

# Import AdaBoostClassifier
____

# Instantiate dt
dt = ____(____=____, random_state=1)

# Instantiate ada
ada = ____(base_estimator=____, n_estimators=____, random_state=1)

Editar e executar código

Este exercício faz parte do curso

Aprendizado de máquina com modelos baseados em árvores em Python

IntermediárioNível de habilidade

4.9+

Iniciar curso gratuitamente

As árvores de classificação e regressão (CART) são um conjunto de modelos de aprendizado supervisionados usados para problemas que envolvem classificação e regressão. Neste capítulo, você conhecerá o algoritmo CART.

Exercise 1: Árvore de decisão para classificação Exercise 2: Treine sua primeira árvore de classificação Exercise 3: Avaliar a árvore de classificação Exercise 4: Regressão logística vs. árvore de classificação Exercise 5: Aprendizado de árvore de classificação Exercise 6: Crescimento de uma árvore de classificação Exercise 7: Usando a entropia como um critério Exercise 8: Entropia versus índice de Gini Exercise 9: Árvore de decisão para regressão Exercise 10: Treine sua primeira árvore de regressão Exercise 11: Avaliar a árvore de regressão Exercise 12: Regressão linear versus árvore de regressão

A troca de viés e variância é um dos conceitos fundamentais do aprendizado de máquina supervisionado. Neste capítulo, você entenderá como diagnosticar os problemas de sobreajuste e subajuste. Você também conhecerá o conceito de agrupamento, em que as previsões de vários modelos são agregadas para produzir previsões mais robustas.

Exercise 1: Erro de generalização Exercise 2: Complexidade, viés e variação Exercise 3: Sobreajuste e subajuste Exercise 4: Diagnosticar problemas de viés e variância Exercise 5: Instanciar o modelo Exercise 6: Avaliar o erro de 10 vezes CV Exercise 7: Avaliar o erro de treinamento Exercise 8: Alta tendência ou alta variação?Exercise 9: Aprendizado por agrupamento Exercise 10: Definir o agrupamento Exercise 11: Avaliar classificadores individuais Exercise 12: Melhor desempenho com um classificador de votação

Agregação de bootstrap é um método de agrupamento que envolve o treinamento do mesmo algoritmo várias vezes usando diferentes subconjuntos amostrados dos dados de treinamento. Neste capítulo, você entenderá como a agregação de bootstrap pode ser usada para criar um agrupamento de árvores. Você também aprenderá como o algoritmo de florestas aleatórias pode levar a uma maior diversidade de agrupamentos por meio da randomização no nível de cada divisão nas árvores que formam o agrupamento.

Exercise 1: Agregação de bootstrap Exercise 2: Definir o classificador de agregação de bootstrap Exercise 3: Avaliar o desempenho da agregação de bootstrap Exercise 4: Avaliação Out of Bag Exercise 5: Preparar o terreno Exercise 6: Pontuação OOB versus pontuação do conjunto de teste Exercise 7: Florestas aleatórias (RF)Exercise 8: Treinar um regressor RF Exercise 9: Avaliar o regressor RF Exercise 10: Visualização da importância dos recursos

Boosting refere-se a um método de agrupamento no qual vários modelos são treinados sequencialmente com cada modelo aprendendo com os erros de seus predecessores. Neste capítulo, você conhecerá os dois métodos de boosting do AdaBoost e do Gradient Boosting.

Exercise 1: Adaboost Exercise 2: Definir o classificador AdaBoost

Exercício atual

Exercise 3: Treinar o classificador AdaBoost Exercise 4: Avaliar o classificador AdaBoost Exercise 5: Gradient Boosting (GB)Exercise 6: Definir o regressor GB Exercise 7: Treinar o regressor GB Exercise 8: Avaliar o regressor GB Exercise 9: Gradient Boosting Estocástico (SGB)Exercise 10: Regressão com SGB Exercise 11: Treinar o regressor SGB Exercise 12: Avaliar o regressor SGB

Os hiperparâmetros de um modelo de aprendizado de máquina são parâmetros que não são aprendidos com os dados. Eles devem ser definidos antes de você ajustar o modelo ao conjunto de treinamento. Neste capítulo, você aprenderá a ajustar os hiperparâmetros de um modelo baseado em árvore usando a validação cruzada de pesquisa de grade.

Exercise 1: Ajuste dos hiperparâmetros de um CART Exercise 2: Hiperparâmetros da árvore Exercise 3: Definir a grade de hiperparâmetros da árvore Exercise 4: Busca da árvore ideal Exercise 5: Avaliar a árvore ideal Exercise 6: Ajuste dos hiperparâmetros de um RF Exercise 7: Hiperparâmetros de florestas aleatórias Exercise 8: Definir a grade de hiperparâmetros de RF Exercise 9: Busca da floresta ideal Exercise 10: Avaliar a floresta ideal Exercise 11: Parabéns!