Ponto de partida da aprendizagem por transferência
Neste exercício, você vai ver como é legal usar vetores pré-treinados como ponto de partida pro seu modelo.
Você vai comparar a precisão de dois modelos treinados com duas épocas. A arquitetura dos modelos é a mesma: Uma camada de incorporação, uma camada de rede neural ( LSTM ) com 128 unidades e a camada de saída com 5 unidades, que é o número de classes nos dados da amostra. A diferença é que um modelo usa vetores pré-treinados na camada de incorporação (aprendizado por transferência) e o outro não.
Os vetores pré-treinados usados foram os vetores pré-treinados do modelo de rede neural ( GloVE ) com 200 dimensões. O histórico de precisão do treinamento do conjunto de validação de ambos os modelos está disponível nas variáveis history_no_emb e history_emb.
Este exercício faz parte do curso
Redes Neurais Recorrentes (RNNs) para Modelagem de Linguagem com Keras
Instruções do exercício
- Importa o módulo
matplotlib.pyplotcomoplt. - Adicione a lista de precisão do modelo sem incorporações ao gráfico.
- Adicione a lista de precisão do modelo com incorporações ao gráfico.
- Mostra o gráfico usando o método
.show().
Exercício interativo prático
Experimente este exercício completando este código de exemplo.
# Import plotting package
import matplotlib.____ as ____
# Insert lists of accuracy obtained on the validation set
plt.plot(____['acc'], marker='o')
plt.plot(history_emb[____], marker='o')
# Add extra descriptions to plot
plt.title('Learning with and without pre-trained embedding vectors')
plt.ylabel('accuracy')
plt.xlabel('epoch')
plt.legend(['no_embeddings', 'with_embeddings'], loc='upper left')
# Display the plot
plt.____