Normalización por lotes de un modelo conocido

¿Recuerdas el conjunto de datos de dígitos que entrenaste en el primer ejercicio de este capítulo?

Un problema de clasificación multiclase que resolvió utilizando softmax y 10 neuronas en su capa de salida.

Ahora construirá un nuevo modelo más profundo consistente en 3 capas ocultas de 50 neuronas cada una, utilizando normalización por lotes entre capas. El parámetro kernel_initializer se utiliza para inicializar los pesos de forma similar.

Este ejercicio forma parte del curso

Introducción al aprendizaje profundo con Keras

Instrucciones de ejercicio

Importe BatchNormalization desde las capas de tensorflow.keras.
Construye tu modelo de red profunda, utiliza 50 neuronas para cada capa oculta añadiendo normalización por lotes entre capas.
Compile su modelo con el descenso de gradiente estocástico, sgd, como optimizador.

Ejercicio interactivo práctico

Pruebe este ejercicio completando este código de muestra.

# Import batch normalization from keras layers
from tensorflow.____.____ import ____

# Build your deep network
batchnorm_model = ____
batchnorm_model.add(Dense(____, input_shape=(64,), activation='relu', kernel_initializer='normal'))
batchnorm_model.add(____)
batchnorm_model.add(Dense(____, activation='relu', kernel_initializer='normal'))
batchnorm_model.add(____)
batchnorm_model.add(Dense(____, activation='relu', kernel_initializer='normal'))
batchnorm_model.add(____)
batchnorm_model.add(Dense(10, activation='softmax', kernel_initializer='normal'))

# Compile your model with sgd
batchnorm_model.compile(optimizer=____, loss='categorical_crossentropy', metrics=['accuracy'])

Editar y ejecutar código

Este ejercicio forma parte del curso

Introducción al aprendizaje profundo con Keras

IntermedioNivel de habilidad

4.8+

Comienza el curso gratis

En este primer capítulo, conocerá las redes neuronales, comprenderá qué tipo de problemas pueden resolver y cuándo utilizarlas. También construirás varias redes y salvarás la Tierra entrenando un modelo de regresión que se aproxima a la órbita de un meteorito que se acerca a nosotros.

Exercise 1: ¿Qué es Keras?Exercise 2: Descripción de Keras Exercise 3: ¿Utilizaría el aprendizaje profundo?Exercise 4: Su primera red neuronal Exercise 5: ¡Hola redes!Exercise 6: Parámetros de recuento Exercise 7: ¡Construir como se muestra!Exercise 8: Sobrevivir a un impacto de meteorito Exercise 9: Especificar un modelo Exercise 10: Formación Exercise 11: Predecir la órbita

Al final de este capítulo, sabrá cómo resolver problemas binarios, multiclase y multietiqueta con redes neuronales. Todo ello resolviendo problemas como detectar billetes de dólar falsos, decidir quién lanzó qué dardo a un tablero y construir un sistema inteligente para regar su granja. También podrás trazar las métricas de entrenamiento del modelo y detener el entrenamiento y guardar tus modelos cuando ya no mejoren.

Exercise 1: Clasificación binaria Exercise 2: Explorar los billetes de dólar Exercise 3: Un modelo de clasificación binaria Exercise 4: ¿Este billete de dólar es falso?Exercise 5: Clasificación multiclase Exercise 6: Un modelo multiclase Exercise 7: Prepare su conjunto de datos Exercise 8: Formación sobre lanzadores de dardos Exercise 9: Predicciones Softmax Exercise 10: Clasificación multietiqueta Exercise 11: Una máquina de riego Exercise 12: Entrenamiento con varias etiquetas Exercise 13: Devoluciones de llamada de Keras Exercise 14: Llamada de retorno al historial Exercise 15: Parada anticipada de su modelo Exercise 16: Una combinación de devoluciones de llamada

En los capítulos anteriores has entrenado a un montón de modelos. Ahora aprenderá a interpretar las curvas de aprendizaje para comprender sus modelos a medida que se entrenan. También visualizará los efectos de las funciones de activación, los tamaños de lote y la normalización de lotes. Por último, aprenderá a realizar la optimización automática de hiperparámetros a sus modelos Keras utilizando sklearn.

Exercise 1: Curvas de aprendizaje Exercise 2: Aprender los dígitos Exercise 3: ¿Está el modelo sobreajustado?Exercise 4: ¿Necesitamos más datos?Exercise 5: Funciones de activación Exercise 6: Diferentes funciones de activación Exercise 7: Comparación de funciones de activación Exercise 8: Comparación de funciones de activación II Exercise 9: Tamaño del lote y normalización del lote Exercise 10: Modificación del tamaño de los lotes Exercise 11: Normalización por lotes de un modelo conocido

Ejercicio actual

Exercise 12: Efectos de la normalización por lotes Exercise 13: Ajuste de hiperparámetros Exercise 14: Preparar un modelo para el ajuste Exercise 15: Ajuste de los parámetros del modelo Exercise 16: Entrenamiento con validación cruzada

Es hora de introducirse en arquitecturas más avanzadas. Creará un autocodificador para reconstruir imágenes ruidosas, visualizará activaciones de redes neuronales convolucionales, utilizará modelos profundos preentrenados para clasificar imágenes y aprenderá más sobre redes neuronales recurrentes y a trabajar con texto mientras construye una red que predice la siguiente palabra de una frase.

Exercise 1: Tensores, capas y autocodificadores Exercise 2: Es un flujo de tensores Exercise 3: Separación neuronal Exercise 4: Construir un autocodificador Exercise 5: Eliminación de ruido como un autocodificador Exercise 6: Introducción a CNNs Exercise 7: Creación de un modelo CNN Exercise 8: Observar las circunvoluciones Exercise 9: Preparación de la imagen de entrada Exercise 10: Utilizar un modelo del mundo real Exercise 11: Introducción a LSTMs Exercise 12: Predicción de texto con LSTMs Exercise 13: Construya su modelo LSTM Exercise 14: Descifra tus predicciones Exercise 15: Pruebe su modelo Exercise 16: ¡Ya está!