Regularização manual com Lasso

O conjunto de dados attrition tem 30 variáveis. O seu departamento de Recursos Humanos pediu para você construir um modelo fácil de interpretar e manter. Eles querem especificamente reduzir o número de features para que seu modelo seja o mais interpretável possível.

Neste exercício, você vai usar Lasso para reduzir automaticamente o número de variáveis no seu modelo. Nesta primeira tentativa, você vai inserir a penalidade manualmente e observar o comportamento do modelo.

Os dados train e test e uma recipe básica já estão carregados para você.

Este exercício faz parte do curso

Feature Engineering em R

Instruções do exercício

Configure seu modelo de regressão logística para usar o mecanismo glmnet.
Defina os argumentos para rodar Lasso com uma penalidade de 0,06.

Exercício interativo prático

Experimente este exercício completando este código de exemplo.

model_lasso_manual <- logistic_reg() %>%

# Set the glmnet engine for your logistic regression model
  ___(___) %>%

# Set arguments to run Lasso with a penalty of 0.06
  set_args(mixture = ___, ___ = ___)

workflow_lasso_manual <- workflow() %>%
  add_model(model_lasso_manual) %>%
  add_recipe(recipe)

fit_lasso_manual <- workflow_lasso_manual %>% 
  fit(train)

tidy(fit_lasso_manual)

Editar e executar o código

Este exercício faz parte do curso

Feature Engineering em R

IntermediárioNível de habilidade

4.8+

Iniciar curso de graça

Os dados brutos nem sempre vêm na melhor forma para análise. Neste capítulo de abertura, você vai dar uma primeira olhada em como transformar e criar features que aumentam o desempenho e a interpretabilidade do seu modelo.

Exercise 1: O que é feature engineering?Exercise 2: Um modelo preliminar Exercise 3: Engenharia manual de uma feature Exercise 4: Criando novos atributos usando conhecimento de domínio Exercise 5: Preparando seus dados para análise Exercise 6: Construindo um workflow Exercise 7: Aumentando o conteúdo de informação dos dados brutos Exercise 8: Identificando valores ausentes Exercise 9: Imputação de valores ausentes e criação de variáveis dummies Exercise 10: Ajustando e avaliando o modelo Exercise 11: Prevendo reservas de hotel

Neste capítulo, você vai aprender que, além de transformar features manualmente, pode aproveitar ferramentas do tidyverse para criar novas variáveis de forma programática. Você vai explorar como essa abordagem melhora a reprodutibilidade dos seus modelos e é especialmente útil ao lidar com conjuntos de dados com muitas features.

Exercise 1: Por que transformar recursos existentes?Exercise 2: Dando uma olhada nos seus dados Exercise 3: Normalizando e aplicando log Exercise 4: Ajustar e aumentar Exercise 5: Personalize a avaliação do seu modelo Exercise 6: Transformações comuns de features Exercise 7: Transformações comuns Exercise 8: Receita simples Exercise 9: Transformação de Box-Cox Exercise 10: Transformação de Yeo-Johnson Exercise 11: Transformações avançadas Exercise 12: Linha de base Exercise 13: step_poly()Exercise 14: step_percentile()Exercise 15: Quem vai ficar?

Agora você vai aprender como os modelos frequentemente se beneficiam da redução de dimensionalidade e da extração de features de dados de alta dimensão, incluindo converter dados de texto em valores numéricos, codificar dados categóricos e ranquear o poder preditivo das variáveis. Você vai explorar métodos como análise de componentes principais, kernel principal component analysis, extração numérica de texto, codificações categóricas e escores de importância de variáveis.

Exercise 1: Reduzindo a dimensionalidade Exercise 2: Preparando o terreno Exercise 3: Explorando a estrutura Exercise 4: Porcentagem de variância explicada Exercise 5: Visualizando a variância explicada Exercise 6: Feature hashing Exercise 7: Investigando a área de formação Exercise 8: Para dentro da matriz Exercise 9: Explorando o hashing Exercise 10: Visualizando o hashing Exercise 11: Codificando dados categóricos usando aprendizado supervisionado Exercise 12: Configurando seu workflow Exercise 13: Ajustar, aumentar e avaliar Exercise 14: Unindo modelos Exercise 15: Importância das variáveis Exercise 16: Criar um workflow Exercise 17: Ajustar e ampliar Exercise 18: Qual é o principal preditor?

Você vai encerrar o curso aprendendo sobre técnicas de feature engineering e Machine Learning. Primeiro, o foco será nos problemas de usar todas as features disponíveis em um modelo e na importância de identificar features irrelevantes e redundantes e aprender a removê-las usando métodos embutidos como lasso e elastic-net. Em seguida, você vai explorar métodos de shrinkage como lasso, ridge e elastic-net, que podem ser usados para regularizar pesos das features ou selecionar features ao zerar coeficientes. Por fim, você vai finalizar criando um fluxo de trabalho de feature engineering de ponta a ponta e revisando e praticando os conceitos e funções aprendidos em um pequeno projeto.

Exercise 1: Reduzindo as features do modelo Exercise 2: Garimpando a importância das variáveis Exercise 3: Avaliando o desempenho do modelo usando todos os preditores disponíveis Exercise 4: Construindo um modelo reduzido Exercise 5: Métodos de shrinkage Exercise 6: Regularização manual com Lasso

Exercício atual

Exercise 7: Ajustando o penalty Exercise 8: Finalizando o modelo Exercise 9: Juntando tudo Exercise 10: Preparar e dividir Exercise 11: Pré-processar Exercise 12: Modelo Exercise 13: Avaliar Exercise 14: Parabéns!