Cuando la estimación del rendimiento falla

Imagina que eres un científico de datos en un banco y trabajas en un caso de uso de impago de préstamos. Cada mes recibes etiquetas para validar tu modelo y el algoritmo de estimación de rendimiento. En un mes concreto, observas que muchos clientes con empleos bien remunerados dejan de pagar con más frecuencia debido a un fuerte aumento de la inflación y a la consiguiente crisis laboral.

Al comparar el rendimiento estimado con el realizado, notas una disparidad significativa entre ambos.

¿Cuál podría ser la razón por la que el algoritmo de estimación de rendimiento no es tan efectivo en esta situación?

Este ejercicio forma parte del curso

Monitorización de Machine Learning en Python

Ver curso

Ejercicio interactivo práctico

Pon en práctica la teoría con uno de nuestros ejercicios interactivos

Empezar ejercicio

Este ejercicio forma parte del curso

Monitorización de Machine Learning en Python

AvanzadoNivel de habilidad

4.8+

251 reviews

Comienza el curso gratis

En este capítulo, conocerás la biblioteca NannyML y sus funciones fundamentales. Primero, aprenderás a preparar datos en bruto para crear conjuntos de referencia y de análisis listos para la monitorización en producción. Como ejemplo práctico, investigarás la predicción del importe de la propina en trayectos de taxi en Nueva York. Al final del capítulo, también verás cómo estimar el rendimiento del modelo de predicción de propinas con NannyML.

Exercise 1: ¿Qué es NannyML?Exercise 2: Características clave de NannyML Exercise 3: Carga el conjunto de datos Exercise 4: Preparación de datos para NannyML Exercise 5: ¿Periodo de referencia o de análisis?Exercise 6: Cargar y dividir los datos Exercise 7: Creación de los conjuntos de referencia y de análisis Exercise 8: Estimación del rendimiento Exercise 9: Especifica el algoritmo y el tipo de problema Exercise 10: Interpretar resultados Exercise 11: Flujo de trabajo de CBPE y DLE Exercise 12: Estimación del rendimiento para la predicción de propinas

En este capítulo, te presentaremos los calculadores de rendimiento realizado cuando la verdad terreno está disponible. Aprenderás métodos más avanzados para trabajar con los resultados, como filtrarlos, representarlos, convertirlos en data frames, fragmentarlos en chunks y definir umbrales personalizados. Por último, aplicarás este conocimiento para calcular el valor de negocio de un modelo entrenado con el conjunto de datos de reservas de hotel.

Exercise 1: Cuando hay etiquetas disponibles Exercise 2: Cuando la estimación del rendimiento falla

Ejercicio actual

Exercise 3: Comparar rendimiento estimado y realizado Exercise 4: Trabajar con resultados calculados y estimados Exercise 5: Diferentes métodos de segmentación (chunking)Exercise 6: Modificar los umbrales Exercise 7: Interactuar con resultados Exercise 8: Cálculo y estimación del valor de negocio Exercise 9: Cálculo del valor de negocio Exercise 10: Caída en el valor monetario Exercise 11: Cálculo del valor de negocio para el conjunto de datos de reservas de hotel

Tras detectar la degradación del rendimiento en el modelo de reservas de hotel, ahora aprenderás a identificar el problema subyacente que la provoca. En este capítulo, verás métodos de detección de deriva multivariante y univariante. También aprenderás a identificar problemas de calidad de datos y a abordar las causas de fondo que detectes.

Exercise 1: Detección de deriva multivariante Exercise 2: Identificar derivas relevantes Exercise 3: Deriva en el conjunto de datos de reservas de hotel Exercise 4: Detección de deriva univariante Exercise 5: Detección de deriva univariante para el conjunto de datos de reservas de hotel Exercise 6: Clasificar los resultados univariantes Exercise 7: Visualización de variables con drift Exercise 8: Comprobaciones de calidad de datos y estadísticas Exercise 9: Comprobaciones de calidad de datos Exercise 10: Estadísticos descriptivos Exercise 11: Resolución de problemas Exercise 12: ¿Cuál es la solución?Exercise 13: ¿Deberías no hacer nada o sí?Exercise 14: Implementación de un flujo de trabajo de monitorización Exercise 15: ¡Enhorabuena!