Ahora, en lugar de tratar de elegir a mano el mejor número posible de rondas de boosting, puedes hacer que XGBoost seleccione automáticamente el número de rondas dentro de xgb.cv(). Esto se hace con una técnica llamada early stopping.

El early stopping funciona evaluando el modelo de XGBoost después de cada ronda de boosting contra un conjunto de validación y deteniendo la creación de rondas adicionales (terminando así el entrenamiento antes) si la métrica del conjunto de validación ("rmse" en nuestro caso) no mejora durante un número determinado de rondas. Aquí usarás el parámetro early_stopping_rounds en xgb.cv() con un número máximo de rondas de boosting grande (50). Ten en cuenta que si la métrica del conjunto de validación mejora de forma continua hasta alcanzar num_boost_rounds, entonces no se aplica el early stopping.

Aquí ya tienes creada la DMatrix y el diccionario de parámetros. Tu tarea es usar validación cruzada con early stopping. ¡Adelante!

Límites de la búsqueda en rejilla y la búsqueda aleatoria

Create Your Free Account