Normalización por lotes en un modelo conocido

¿Recuerdas el conjunto de datos de dígitos que entrenaste en el primer ejercicio de este capítulo?

Era un problema de clasificación multiclase que resolviste usando softmax y 10 neuronas en la capa de salida.

Ahora vas a construir un modelo más profundo con 3 capas ocultas de 50 neuronas cada una, usando normalización por lotes entre las capas. El parámetro kernel_initializer se usa para inicializar los pesos de forma similar.

Este ejercicio forma parte del curso

Introducción al Deep Learning con Keras

Instrucciones del ejercicio

Importa BatchNormalization desde las capas de tensorflow.keras.
Construye tu red profunda, usa 50 neuronas en cada capa oculta y añade normalización por lotes entre las capas.
Compila tu modelo con descenso de gradiente estocástico, sgd, como optimizador.

ejercicio interactivo práctico

Prueba este ejercicio completando este código de ejemplo.

# Import batch normalization from keras layers
from tensorflow.____.____ import ____

# Build your deep network
batchnorm_model = ____
batchnorm_model.add(Dense(____, input_shape=(64,), activation='relu', kernel_initializer='normal'))
batchnorm_model.add(____)
batchnorm_model.add(Dense(____, activation='relu', kernel_initializer='normal'))
batchnorm_model.add(____)
batchnorm_model.add(Dense(____, activation='relu', kernel_initializer='normal'))
batchnorm_model.add(____)
batchnorm_model.add(Dense(10, activation='softmax', kernel_initializer='normal'))

# Compile your model with sgd
batchnorm_model.compile(optimizer=____, loss='categorical_crossentropy', metrics=['accuracy'])

Editar y ejecutar código

Este ejercicio forma parte del curso

Introducción al Deep Learning con Keras

IntermedioNivel de habilidad

4.8+

Empieza el curso gratis

En este primer capítulo, te presentarás a las redes neuronales, entenderás qué tipo de problemas pueden resolver y cuándo usarlas. También construirás varias redes y salvarás la Tierra entrenando un modelo de regresión que aproxima la órbita de un meteorito que se acerca a nosotros.

Exercise 1: ¿Qué es Keras?Exercise 2: Describiendo Keras Exercise 3: ¿Usarías deep learning?Exercise 4: Tu primera red neuronal Exercise 5: ¡Hola, redes!Exercise 6: Contando parámetros Exercise 7: ¡Constrúyelo tal como se muestra!Exercise 8: Sobrevivir a un impacto de meteorito Exercise 9: Especificar un modelo Exercise 10: Entrenamiento Exercise 11: ¡Prediciendo la órbita!

Al final de este capítulo, sabrás cómo resolver problemas binarios, multiclase y multilabel con redes neuronales. Todo ello resolviendo retos como detectar billetes de dólar falsos, decidir quién lanzó qué dardo a una diana y construir un sistema inteligente para regar tu granja. También podrás representar las métricas de entrenamiento del modelo y detener el entrenamiento y guardar tus modelos cuando ya no mejoren.

Exercise 1: Clasificación binaria Exercise 2: Explorando billetes de dólar Exercise 3: Un modelo de clasificación binaria Exercise 4: ¿Este billete de dólar es falso?Exercise 5: Clasificación multiclase Exercise 6: Un modelo multiclase Exercise 7: Prepara tu conjunto de datos Exercise 8: Entrenamiento con lanzadores de dardos Exercise 9: Predicciones con softmax Exercise 10: Clasificación multietiqueta Exercise 11: Una máquina de riego Exercise 12: Entrenamiento con múltiples etiquetas Exercise 13: Callbacks de Keras Exercise 14: El callback de historial Exercise 15: Detén tu modelo a tiempo (early stopping)Exercise 16: Una combinación de callbacks

En los capítulos anteriores has entrenado muchos modelos. Ahora aprenderás a interpretar curvas de aprendizaje para entender tus modelos mientras se entrenan. También visualizarás los efectos de las funciones de activación, los tamaños de lote y la normalización por lotes. Por último, aprenderás a realizar una optimización automática de hiperparámetros en tus modelos de Keras usando sklearn.

Exercise 1: Curvas de aprendizaje Exercise 2: Aprendiendo los dígitos Exercise 3: ¿Está sobreajustando el modelo?Exercise 4: ¿Necesitamos más datos?Exercise 5: Funciones de activación Exercise 6: Funciones de activación diferentes Exercise 7: Comparar funciones de activación Exercise 8: Comparar funciones de activación II Exercise 9: Tamaño de lote y normalización por lotes Exercise 10: Cambiar el tamaño de los lotes Exercise 11: Normalización por lotes en un modelo conocido

Ejercicio actual

Exercise 12: Efectos de la normalización por lotes Exercise 13: Ajuste de hiperparámetros Exercise 14: Preparar un modelo para el ajuste Exercise 15: Ajustar los parámetros del modelo Exercise 16: Entrenamiento con validación cruzada

¡Es hora de conocer arquitecturas más avanzadas! Crearás un autoencoder para reconstruir imágenes con ruido, visualizarás activaciones de redes neuronales convolucionales, usarás modelos profundos preentrenados para clasificar imágenes y aprenderás más sobre redes neuronales recurrentes y trabajo con texto mientras construyes una red que predice la siguiente palabra de una frase.

Exercise 1: Tensores, capas y autoencoders Exercise 2: Es un flujo de tensores Exercise 3: Separación neuronal Exercise 4: Construyendo un autoencoder Exercise 5: Eliminar ruido como un autoencoder Exercise 6: Introducción a las CNN Exercise 7: Construir un modelo CNN Exercise 8: Observando las convoluciones Exercise 9: Preparar tu imagen de entrada Exercise 10: Usar un modelo del mundo real Exercise 11: Introducción a las LSTM Exercise 12: Predicción de texto con LSTMs Exercise 13: Construye tu modelo LSTM Exercise 14: Descodifica tus predicciones Exercise 15: ¡Pon a prueba tu modelo!Exercise 16: ¡Has terminado!