Efectos de la normalización por lotes

La normalización por lotes tiende a aumentar la velocidad de aprendizaje de nuestros modelos y a hacer más estables sus curvas de aprendizaje. Veamos cómo se comparan dos modelos idénticos con y sin normalización de lotes.

El modelo que acaba de construir batchnorm_model está cargado para que pueda utilizarlo. Una copia exacta sin normalización por lotes: standard_model también está disponible. Puedes consultar su summary() en la consola. X_train, y_train, X_test, y y_test también se cargan para que puedas entrenar ambos modelos.

Comparará las curvas de aprendizaje de precisión de ambos modelos trazándolas con compare_histories_acc().

Puede comprobar la función pegando show_code(compare_histories_acc) en la consola.

Este ejercicio forma parte del curso

Introducción al aprendizaje profundo con Keras

Instrucciones del ejercicio

Entrena el standard_model durante 10 épocas pasando datos de entrenamiento y validación, almacenando su historial en h1_callback.
Entrene su batchnorm_model durante 10 épocas pasando datos de entrenamiento y validación, almacenando su historial en h2_callback.
Llama a compare_histories_acc pasando por h1_callback y h2_callback.

Ejercicio interactivo práctico

Prueba este ejercicio y completa el código de muestra.

# Train your standard model, storing its history callback
h1_callback = standard_model.fit(____, ____, validation_data=(____,____), epochs=____, verbose=0)

# Train the batch normalized model you recently built, store its history callback
h2_callback = batchnorm_model.fit(____, ____, validation_data=____, epochs=____, verbose=0)

# Call compare_histories_acc passing in both model histories
compare_histories_acc(____, ____)

Editar y ejecutar código

Este ejercicio forma parte del curso

Introducción al aprendizaje profundo con Keras

IntermedioNivel de habilidad

4.8+

Comienza el curso gratis

En este primer capítulo, conocerá las redes neuronales, comprenderá qué tipo de problemas pueden resolver y cuándo utilizarlas. También construirás varias redes y salvarás la Tierra entrenando un modelo de regresión que se aproxima a la órbita de un meteorito que se acerca a nosotros.

Exercise 1: ¿Qué es Keras?Exercise 2: Descripción de Keras Exercise 3: ¿Utilizaría el aprendizaje profundo?Exercise 4: Su primera red neuronal Exercise 5: ¡Hola redes!Exercise 6: Parámetros de recuento Exercise 7: ¡Construir como se muestra!Exercise 8: Sobrevivir a un impacto de meteorito Exercise 9: Especificar un modelo Exercise 10: Formación Exercise 11: Predecir la órbita

Al final de este capítulo, sabrá cómo resolver problemas binarios, multiclase y multietiqueta con redes neuronales. Todo ello resolviendo problemas como detectar billetes de dólar falsos, decidir quién lanzó qué dardo a un tablero y construir un sistema inteligente para regar su granja. También podrás trazar las métricas de entrenamiento del modelo y detener el entrenamiento y guardar tus modelos cuando ya no mejoren.

Exercise 1: Clasificación binaria Exercise 2: Explorar los billetes de dólar Exercise 3: Un modelo de clasificación binaria Exercise 4: ¿Este billete de dólar es falso?Exercise 5: Clasificación multiclase Exercise 6: Un modelo multiclase Exercise 7: Prepare su conjunto de datos Exercise 8: Formación sobre lanzadores de dardos Exercise 9: Predicciones Softmax Exercise 10: Clasificación multietiqueta Exercise 11: Una máquina de riego Exercise 12: Entrenamiento con varias etiquetas Exercise 13: Devoluciones de llamada de Keras Exercise 14: Llamada de retorno al historial Exercise 15: Parada anticipada de su modelo Exercise 16: Una combinación de devoluciones de llamada

En los capítulos anteriores has entrenado a un montón de modelos. Ahora aprenderá a interpretar las curvas de aprendizaje para comprender sus modelos a medida que se entrenan. También visualizará los efectos de las funciones de activación, los tamaños de lote y la normalización de lotes. Por último, aprenderá a realizar la optimización automática de hiperparámetros a sus modelos Keras utilizando sklearn.

Exercise 1: Curvas de aprendizaje Exercise 2: Aprender los dígitos Exercise 3: ¿Está el modelo sobreajustado?Exercise 4: ¿Necesitamos más datos?Exercise 5: Funciones de activación Exercise 6: Diferentes funciones de activación Exercise 7: Comparación de funciones de activación Exercise 8: Comparación de funciones de activación II Exercise 9: Tamaño del lote y normalización del lote Exercise 10: Modificación del tamaño de los lotes Exercise 11: Normalización por lotes de un modelo conocido Exercise 12: Efectos de la normalización por lotes

Ejercicio actual

Exercise 13: Ajuste de hiperparámetros Exercise 14: Preparar un modelo para el ajuste Exercise 15: Ajuste de los parámetros del modelo Exercise 16: Entrenamiento con validación cruzada

Es hora de introducirse en arquitecturas más avanzadas. Creará un autocodificador para reconstruir imágenes ruidosas, visualizará activaciones de redes neuronales convolucionales, utilizará modelos profundos preentrenados para clasificar imágenes y aprenderá más sobre redes neuronales recurrentes y a trabajar con texto mientras construye una red que predice la siguiente palabra de una frase.

Exercise 1: Tensores, capas y autocodificadores Exercise 2: Es un flujo de tensores Exercise 3: Separación neuronal Exercise 4: Construir un autocodificador Exercise 5: Eliminación de ruido como un autocodificador Exercise 6: Introducción a CNNs Exercise 7: Creación de un modelo CNN Exercise 8: Observar las circunvoluciones Exercise 9: Preparación de la imagen de entrada Exercise 10: Utilizar un modelo del mundo real Exercise 11: Introducción a LSTMs Exercise 12: Predicción de texto con LSTMs Exercise 13: Construya su modelo LSTM Exercise 14: Descifra tus predicciones Exercise 15: Pruebe su modelo Exercise 16: ¡Ya está!