Implementação da ReLU

A ReLU (Rectified Linear Unit, unidade linear retificada) é uma função de ativação muito utilizada no aprendizado profundo, solucionando desafios como o problema de gradientes que desaparecem.

Neste exercício, você deve implementar a ReLU no PyTorch, aplicá-la a valores positivos e negativos e observar os resultados.

O pacote torch.nn já foi importado para você como nn.

Este exercício faz parte do curso

Introdução ao Aprendizado Profundo com o PyTorch

Exercício interativo prático

Experimente este exercício completando este código de exemplo.

# Create a ReLU function with PyTorch
relu_pytorch = ____

Editar e executar o código

Este exercício faz parte do curso

Introdução ao Aprendizado Profundo com o PyTorch

IntermediárioNível de habilidade

4.8+

Iniciar curso de graça

Carros autônomos, smartphones, mecanismos de pesquisa... O aprendizado profundo agora está em toda parte. Antes de começar a criar modelos complexos, você vai conhecer melhor o PyTorch, uma estrutura de aprendizado profundo. Você aprenderá a manipular tensores, criar estruturas de dados do PyTorch e criar sua primeira rede neural no PyTorch com camadas lineares.

Exercise 1: Introdução ao Aprendizado Profundo com o PyTorch Exercise 2: Introdução aos tensores do PyTorch Exercise 3: Verificação e adição de tensores Exercise 4: Redes neurais e camadas Exercise 5: Rede de camadas lineares Exercise 6: Como funcionam os pesos Exercise 7: Camadas ocultas e parâmetros Exercise 8: Sua primeira rede neural Exercise 9: Empilhamento de camadas lineares Exercise 10: Contagem do número de parâmetros

Para treinar uma rede neural no PyTorch, primeiro você precisa entender outros componentes, como as funções de ativação e perda. Você vai perceber que o treinamento de uma rede requer a minimização dessa função de perda, o que é feito por meio do cálculo de gradientes. Você vai aprender a usar esses gradientes para atualizar os parâmetros do modelo.

Exercise 1: Descoberta de funções de ativação Exercise 2: Estimule sua compreensão!Exercise 3: As funções sigmoide e softmax Exercise 4: Como executar uma passagem direta Exercise 5: Como criar um classificador binário no PyTorch Exercise 6: Da regressão à classificação multiclasse Exercise 7: Uso de funções de perda para avaliar previsões do modelo Exercise 8: Criação de rótulos com one-hot encoding Exercise 9: Cálculo da perda de entropia cruzada Exercise 10: Uso de derivadas para atualizar os parâmetros do modelo Exercise 11: Acesso aos parâmetros do modelo Exercise 12: Atualização manual dos pesos Exercise 13: Como usar o otimizador do PyTorch

Agora que você aprendeu os principais componentes de uma rede neural, você vai treinar uma usando um loop de treinamento. Você vai analisar problemas em potencial, como gradientes que desaparecem, e aprender estratégias para resolvê-los, como funções de ativação alternativas e ajuste da taxa de aprendizado e do momentum.

Exercise 1: Análise detalhada do carregamento de dados Exercise 2: Como usar o TensorDataset Exercise 3: Como usar o DataLoader Exercise 4: Como escrever o primeiro loop de treinamento Exercise 5: Como usar o MSELoss Exercise 6: Como escrever um loop de treinamento Exercise 7: Funções de ativação ReLU Exercise 8: Implementação da ReLU

Exercício atual

Exercise 9: Implementação da Leaky ReLU Exercise 10: Introdução a funções de ativação Exercise 11: Taxa de aprendizado e momentum Exercise 12: Ajuste da taxa de aprendizado Exercise 13: Ajuste do momentum

Treinar um modelo de aprendizado profundo é uma arte e, para garantir que o modelo seja treinado corretamente, precisamos acompanhar determinadas métricas durante o treinamento, como a perda ou a precisão. Vamos aprender a calcular essas métricas e a reduzir o sobreajuste.

Exercise 1: Inicialização de camadas e aprendizado por transferência Exercise 2: Processo de ajuste fino Exercise 3: Congelamento de camadas de um modelo Exercise 4: Inicialização de camadas Exercise 5: Avaliação do desempenho do modelo Exercise 6: Como escrever o loop de avaliação Exercise 7: Cálculo da precisão usando torchmetrics Exercise 8: Como evitar o sobreajuste Exercise 9: Ajuste do dropout Exercise 10: O que significa sobreajuste Exercise 11: Como aprimorar o desempenho do modelo Exercise 12: Implementação da pesquisa aleatória Exercise 13: Vídeo de encerramento