Hiperparâmetros do KNN

Para aplicar os conceitos aprendidos no exercício anterior, é uma boa prática testar o que você aprendeu em um novo algoritmo. O algoritmo k-nearest neighbors não é tão popular quanto já foi, mas ainda pode ser uma ótima escolha para dados que apresentam grupos que se comportam de forma semelhante. Será que este é o caso dos nossos usuários de cartão de crédito?

Aqui, você vai experimentar diferentes valores para um dos hiperparâmetros centrais do algoritmo KNN e comparar o desempenho.

Você terá disponível:

DataFrames X_train, X_test, y_train, y_test

Este exercício faz parte do curso

Ajuste de Hiperparâmetros em Python

Instruções do exercício

Construa um estimador KNN para os seguintes valores de n_neighbors [5,10,20].
Ajuste cada um aos dados de treinamento e produza previsões.
Calcule a acurácia de cada modelo e imprima os resultados.

Exercício interativo prático

Experimente este exercício completando este código de exemplo.

# Build a knn estimator for each value of n_neighbours
knn_5 = KNeighborsClassifier(n_neighbors=____)
knn_10 = KNeighborsClassifier(n_neighbors=____)
knn_20 = KNeighborsClassifier(n_neighbors=____)

# Fit each to the training data & produce predictions
knn_5_predictions = knn_5.fit(_____, _____).predict(_____)
knn_10_predictions = knn_10.fit(_____, _____).predict(_____)
knn_20_predictions = knn_20.fit(_____, _____).predict(_____)

# Get an accuracy score for each of the models
knn_5_accuracy = accuracy_score(y_test, _____)
knn_10_accuracy = accuracy_score(y_test, _____)
knn_20_accuracy = accuracy_score(y_test, _____)
print("The accuracy of 5, 10, 20 neighbours was {}, {}, {}".format(_____, _____, _____))

Editar e executar o código

Este exercício faz parte do curso

Ajuste de Hiperparâmetros em Python

IntermediárioNível de habilidade

4.9+

Iniciar curso de graça

Neste capítulo introdutório, você vai aprender a diferença entre hiperparâmetros e parâmetros. Você vai praticar extrair e analisar parâmetros, além de definir valores de hiperparâmetros para vários algoritmos populares de Machine Learning. Ao longo do caminho, vai aprender dicas e boas práticas para escolher quais hiperparâmetros ajustar e quais valores definir, e vai construir curvas de aprendizagem para analisar suas escolhas de hiperparâmetros.

Exercise 1: Introdução e "Parâmetros"Exercise 2: Parâmetros em Regressão Logística Exercise 3: Extraindo um parâmetro de Regressão Logística Exercise 4: Extraindo um parâmetro de Random Forest Exercise 5: Apresentando hiperparâmetros Exercise 6: Hiperparâmetros em Random Forests Exercise 7: Explorando os hiperparâmetros de Random Forest Exercise 8: Hiperparâmetros do KNN

Exercício atual

Exercise 9: Definindo e analisando valores de hiperparâmetros Exercise 10: Automatizando a Escolha de Hiperparâmetros Exercise 11: Construindo curvas de aprendizado

Este capítulo apresenta uma metodologia popular de ajuste automático de hiperparâmetros chamada Grid Search. Você vai aprender o que é, como funciona e praticar a execução de um Grid Search usando Scikit Learn. Depois, você vai aprender a analisar a saída de um Grid Search e ganhar experiência prática fazendo isso.

Exercise 1: Apresentando a Grid Search Exercise 2: Criar funções de Grid Search Exercise 3: Sintonize vários hiperparâmetros iterativamente Exercise 4: Quantos modelos?Exercise 5: Grid Search com Scikit Learn Exercise 6: Entradas do GridSearchCV Exercise 7: GridSearchCV com Scikit Learn Exercise 8: Entendendo a saída de uma grid search Exercise 9: Usando as melhores saídas Exercise 10: Explorando os resultados do grid search Exercise 11: Analisando os melhores resultados Exercise 12: Usando os melhores resultados

Neste capítulo, você será apresentado a outra metodologia popular de ajuste automático de hiperparâmetros chamada Random Search. Você vai aprender o que é, como funciona e, principalmente, como ela difere do grid search. Vai conhecer algumas vantagens e desvantagens desse método e quando escolhê-lo em comparação ao Grid Search. Você vai praticar a execução de um Random Search com Scikit Learn, além de visualizar e interpretar a saída.

Exercise 1: Introdução ao Random Search Exercise 2: Amostre hiperparâmetros aleatoriamente Exercise 3: Busca aleatória com Random Forest Exercise 4: Visualizando um Random Search Exercise 5: Random Search no Scikit Learn Exercise 6: Entradas do RandomSearchCV Exercise 7: O objeto RandomizedSearchCV Exercise 8: RandomSearchCV no Scikit Learn Exercise 9: Comparando Grid Search e Random Search Exercise 10: Comparando Random Search e Grid Search Exercise 11: Grid e Random Search lado a lado

Neste capítulo final, você vai ter um panorama de metodologias mais avançadas de ajuste de hiperparâmetros conhecidas como “busca informada”. Isso inclui uma metodologia chamada Coarse To Fine, além de algoritmos de ajuste Bayesianos e Genéticos. Você vai aprender como a busca informada difere da busca não informada e vai adquirir habilidades práticas com cada uma das metodologias mencionadas, comparando e contrastando conforme avança.

Exercise 1: Busca informada: do grosso ao fino Exercise 2: Visualizando Coarse to Fine Exercise 3: Iterações Coarse to Fine Exercise 4: Busca informada: Estatística Bayesiana Exercise 5: Regra de Bayes em Python Exercise 6: Ajuste Bayesiano de hiperparâmetros com Hyperopt Exercise 7: Busca informada: algoritmos genéticos Exercise 8: Ajuste Genético de Hiperparâmetros com TPOT Exercise 9: Analisando a estabilidade do TPOT Exercise 10: Parabéns!