Prepara el terreno

En los siguientes ejercicios, compararás la precisión de OOB con la precisión del conjunto de pruebas de un clasificador bagging entrenado en el conjunto de datos Paciente hepático indio.

En sklearn, puedes evaluar la precisión OOB de un clasificador conjunto ajustando el parámetro oob_score a True durante la instanciación. Una vez entrenado el clasificador, se puede obtener la precisión OOB accediendo al atributo .oob_score_ de la instancia correspondiente.

En tu entorno, hemos puesto a tu disposición la clase DecisionTreeClassifier de sklearn.tree.

Este ejercicio forma parte del curso

Machine learning con modelos basados en árboles en Python

Instrucciones del ejercicio

Importa BaggingClassifier desde sklearn.ensemble.
Instancia un DecisionTreeClassifier con min_samples_leaf fijado en 8.
Instancia un BaggingClassifier formado por 50 árboles y establecer oob_score en True.

Ejercicio interactivo práctico

Prueba este ejercicio y completa el código de muestra.

# Import DecisionTreeClassifier
from sklearn.tree import DecisionTreeClassifier

# Import BaggingClassifier
____

# Instantiate dt
dt = ____(min_samples_leaf=____, random_state=1)

# Instantiate bc
bc = ____(base_estimator=____, 
            n_estimators=____,
            oob_score=____,
            random_state=1)

Editar y ejecutar código

Este ejercicio forma parte del curso

Machine learning con modelos basados en árboles en Python

IntermedioNivel de habilidad

4.9+

Comienza el curso gratis

Los Árboles de clasificación y regresión (CART) son un conjunto de modelos de aprendizaje supervisado que se utilizan para problemas de clasificación y regresión. En este capítulo, conocerás el algoritmo CART.

Exercise 1: Árbol de decisión para la clasificación Exercise 2: Entrena tu primer árbol de clasificación Exercise 3: Evaluar el árbol de clasificación Exercise 4: Regresión logística frente a árbol de clasificación Exercise 5: Aprendizaje del árbol de clasificación Exercise 6: Hacer crecer un árbol de clasificación Exercise 7: Utilizar la entropía como criterio Exercise 8: Entropía vs índice de Gini Exercise 9: Árbol de decisión para la regresión Exercise 10: Entrena tu primer árbol de regresión Exercise 11: Evaluar el árbol de regresión Exercise 12: Regresión lineal vs árbol de regresión

El equilibrio entre sesgo y varianza es uno de los conceptos fundamentales del machine learning supervisado. En este capítulo, comprenderás cómo diagnosticar los problemas de sobreajuste e infraajuste. También conocerás el concepto de ensamblaje, que consiste en agregar las predicciones de varios modelos para obtener predicciones más sólidas.

Exercise 1: Error de generalización Exercise 2: Complejidad, sesgo y varianza Exercise 3: Sobreajuste e infraajuste Exercise 4: Diagnosticar problemas de sesgo y varianza Exercise 5: Instanciar el modelo Exercise 6: Evalúa el error de CV a 10 Exercise 7: Evalúa el error de entrenamiento Exercise 8: ¿Alto sesgo o alta varianza?Exercise 9: Aprendizaje conjunto Exercise 10: Definir el conjunto Exercise 11: Evaluar clasificadores individuales Exercise 12: Mejor rendimiento con un clasificador de votación

El bagging es un método de ensamblaje que consiste en entrenar el mismo algoritmo muchas veces utilizando diferentes subconjuntos muestreados de los datos de entrenamiento. En este capítulo, comprenderás cómo puede utilizarse el bagging para crear un conjunto de árboles. También aprenderás cómo el algoritmo de los bosques aleatorios puede conducir a una mayor diversidad del conjunto mediante la aleatorización a nivel de cada división en los árboles que forman el conjunto.

Exercise 1: Bagging Exercise 2: Definir el clasificador bagging Exercise 3: Evaluar el rendimiento del bagging Exercise 4: Evaluación Out of Bag (OOB)Exercise 5: Prepara el terreno

Ejercicio actual

Exercise 6: Puntuación OOB frente a la puntuación del conjunto de pruebas Exercise 7: Bosques aleatorios (RF)Exercise 8: Entrena un regresor RF Exercise 9: Evalúa el regresor RF Exercise 10: Visualizar la importancia de las características

El refuerzo se refiere a un método conjunto en el que se entrenan varios modelos secuencialmente y cada modelo aprende de los errores de sus predecesores. En este capítulo, conocerás los dos métodos de refuerzo: AdaBoost y Gradient Boosting (potenciación del gradiente).

Exercise 1: Adaboost Exercise 2: Definir el clasificador AdaBoost Exercise 3: Entrenar el clasificador AdaBoost Exercise 4: Evaluar el clasificador AdaBoost Exercise 5: Potenciación del gradiente (GB)Exercise 6: Define el regresor GB Exercise 7: Entrena el regresor GB Exercise 8: Evalúa el regresor GB Exercise 9: Potenciación del gradiente estocástico (SGB)Exercise 10: Regresión con SGB Exercise 11: Entrena el regresor SGB Exercise 12: Evalúa el regresor SGB

Los hiperparámetros de un modelo de machine learning son parámetros que no se aprenden a partir de los datos. Deben fijarse antes de ajustar el modelo al conjunto de entrenamiento. En este capítulo, aprenderás a ajustar los hiperparámetros de un modelo basado en árboles utilizando la validación cruzada de búsqueda en cuadrícula.

Exercise 1: Ajuste de los hiperparámetros de CART Exercise 2: Hiperparámetros del árbol Exercise 3: Establece la rejilla de hiperparámetros del árbol Exercise 4: Búsqueda del árbol óptimo Exercise 5: Evalúa el árbol óptimo Exercise 6: Ajuste de los hiperparámetros de RF Exercise 7: Hiperparámetros de los bosques aleatorios Exercise 8: Establece la rejilla de hiperparámetros de RF Exercise 9: Búsqueda del bosque óptimo Exercise 10: Evaluar el bosque óptimo Exercise 11: ¡Enhorabuena!