Ajuste do momentum

Neste exercício, seu objetivo é encontrar o momentum ideal para que o otimizador consiga encontrar o mínimo da seguinte função não convexa \(x^{4} + x^{3} - 5x^{2}\) em 20 etapas. Você deve fazer testes com dois valores diferentes de momentum. Nesse problema, a taxa de aprendizado é fixada em 0,01.

Você tem à disposição a função optimize_and_plot(), que aceita como entrada o parâmetro momentum. Essa função executará 20 etapas do otimizador SGD e exibirá os resultados.

Este exercício faz parte do curso

Introdução ao Aprendizado Profundo com o PyTorch

Exercício interativo prático

Experimente este exercício completando este código de exemplo.

# Try a first value for momentum
mom0 = ____
optimize_and_plot(momentum=mom0)

Editar e executar o código

Este exercício faz parte do curso

Introdução ao Aprendizado Profundo com o PyTorch

IntermediárioNível de habilidade

4.8+

Iniciar curso de graça

Carros autônomos, smartphones, mecanismos de pesquisa... O aprendizado profundo agora está em toda parte. Antes de começar a criar modelos complexos, você vai conhecer melhor o PyTorch, uma estrutura de aprendizado profundo. Você aprenderá a manipular tensores, criar estruturas de dados do PyTorch e criar sua primeira rede neural no PyTorch com camadas lineares.

Exercise 1: Introdução ao Aprendizado Profundo com o PyTorch Exercise 2: Introdução aos tensores do PyTorch Exercise 3: Verificação e adição de tensores Exercise 4: Redes neurais e camadas Exercise 5: Rede de camadas lineares Exercise 6: Como funcionam os pesos Exercise 7: Camadas ocultas e parâmetros Exercise 8: Sua primeira rede neural Exercise 9: Empilhamento de camadas lineares Exercise 10: Contagem do número de parâmetros

Para treinar uma rede neural no PyTorch, primeiro você precisa entender outros componentes, como as funções de ativação e perda. Você vai perceber que o treinamento de uma rede requer a minimização dessa função de perda, o que é feito por meio do cálculo de gradientes. Você vai aprender a usar esses gradientes para atualizar os parâmetros do modelo.

Exercise 1: Descoberta de funções de ativação Exercise 2: Estimule sua compreensão!Exercise 3: As funções sigmoide e softmax Exercise 4: Como executar um passo para frente Exercise 5: Como criar um classificador binário no PyTorch Exercise 6: Da regressão à classificação multiclasse Exercise 7: Uso de funções de perda para avaliar previsões do modelo Exercise 8: Criação de rótulos com one-hot encoding Exercise 9: Cálculo da perda de entropia cruzada Exercise 10: Uso de derivadas para atualizar os parâmetros do modelo Exercise 11: Acesso aos parâmetros do modelo Exercise 12: Atualização manual dos pesos Exercise 13: Como usar o otimizador do PyTorch

Agora que você aprendeu os principais componentes de uma rede neural, você vai treinar uma usando um loop de treinamento. Você vai analisar problemas em potencial, como gradientes que desaparecem, e aprender estratégias para resolvê-los, como funções de ativação alternativas e ajuste da taxa de aprendizado e do momentum.

Exercise 1: Análise detalhada do carregamento de dados Exercise 2: Como usar o TensorDataset Exercise 3: Como usar o DataLoader Exercise 4: Como escrever o primeiro loop de treinamento Exercise 5: Como usar o MSELoss Exercise 6: Como escrever um loop de treinamento Exercise 7: Funções de ativação ReLU Exercise 8: Implementação da ReLU Exercise 9: Implementação da Leaky ReLU Exercise 10: Introdução a funções de ativação Exercise 11: Taxa de aprendizado e momentum Exercise 12: Ajuste da taxa de aprendizado Exercise 13: Ajuste do momentum

Exercício atual

Treinar um modelo de aprendizado profundo é uma arte e, para garantir que o modelo seja treinado corretamente, precisamos acompanhar determinadas métricas durante o treinamento, como a perda ou a precisão. Vamos aprender a calcular essas métricas e a reduzir o sobreajuste.

Exercise 1: Inicialização de camadas e aprendizado por transferência Exercise 2: Processo de ajuste fino Exercise 3: Congelamento de camadas de um modelo Exercise 4: Inicialização de camadas Exercise 5: Avaliação do desempenho do modelo Exercise 6: Como escrever o loop de avaliação Exercise 7: Cálculo da precisão usando torchmetrics Exercise 8: Como evitar o sobreajuste Exercise 9: Ajuste do dropout Exercise 10: O que significa sobreajuste Exercise 11: Como aprimorar o desempenho do modelo Exercise 12: Implementação da pesquisa aleatória Exercise 13: Vídeo de encerramento