Punto de partida del aprendizaje por transferencia
En este ejercicio, verás las ventajas de utilizar vectores preentrenados como punto de partida para tu modelo.
Compararás la precisión de dos modelos entrenados con dos épocas. La arquitectura de los modelos es la misma: Una capa de incrustación, una capa de red neuronal ( LSTM ) con 128 unidades y la capa de salida con 5 unidades, que es el número de clases en los datos de muestra. La diferencia es que un modelo utiliza vectores preentrenados en la capa de incrustación (aprendizaje por transferencia) y el otro no.
Los vectores preentrenados utilizados fueron los vectores preentrenados de Google ( GloVE ) con 200 dimensiones. El historial de precisión del entrenamiento del conjunto de validación de ambos modelos está disponible en las variables history_no_emb y history_emb.
Este ejercicio forma parte del curso
Redes neuronales recurrentes (RNN) para el modelado del lenguaje con Keras
Instrucciones del ejercicio
- Importa el módulo
matplotlib.pyplotcomoplt. - Añade la lista de precisión del modelo sin incrustaciones al gráfico.
- Añade la lista de precisión del modelo con incrustaciones al gráfico.
- Muestra el gráfico utilizando el método
.show().
Ejercicio interactivo práctico
Prueba este ejercicio y completa el código de muestra.
# Import plotting package
import matplotlib.____ as ____
# Insert lists of accuracy obtained on the validation set
plt.plot(____['acc'], marker='o')
plt.plot(history_emb[____], marker='o')
# Add extra descriptions to plot
plt.title('Learning with and without pre-trained embedding vectors')
plt.ylabel('accuracy')
plt.xlabel('epoch')
plt.legend(['no_embeddings', 'with_embeddings'], loc='upper left')
# Display the plot
plt.____