In this chapter you will learn the basics of applying logistic regression and support vector machines (SVMs) to classification problems. You'll use the <code>scikit-learn</code> library to fit classification models to real data.

scikit-learn refresher

KNN classification

Comparing models

Overfitting

Applying logistic regression and SVM

Running LogisticRegression and SVC

Sentiment analysis for movie reviews

Linear classifiers

Which decision boundary is linear?

Visualizing decision boundaries

In this chapter you will discover the conceptual framework behind logistic regression and SVMs. This will let you delve deeper into the inner workings of these models.

Linear classifiers: the coefficients

How models make predictions

Changing the model coefficients

What is a loss function?

The 0-1 loss

Minimizing a loss function

Loss function diagrams

Classification loss functions

Comparing the logistic and hinge losses

Implementing logistic regression

Loss functions

In this chapter you will delve into the details of logistic regression. You'll learn all about regularization and how to interpret model output.

Logistic regression and regularization

Regularized logistic regression

Logistic regression and feature selection

Identifying the most positive and negative words

Logistic regression and probabilities

Getting class probabilities

Regularization and probabilities

Visualizing easy and difficult examples

Multi-class logistic regression

Counting the coefficients

Fitting multi-class logistic regression

Visualizing multi-class logistic regression

One-vs-rest SVM

Logistic regression

In this chapter you will learn all about the details of support vector machines. You'll learn about tuning hyperparameters for these models and using kernels to fit non-linear decision boundaries.

Vecteurs de support

Définition d’un vecteur de support

Effet du retrait d’exemples

SVM à noyau

Mise en route avec GridSearchCV

Ajuster conjointement gamma et C avec GridSearchCV

Comparer la régression logistique et les SVM (et au-delà)

Un avantage des SVM

Un avantage de la régression logistique

Utiliser SGDClassifier

Conclusion

Support Vector Machines

Dans ce cours, vous allez apprendre à utiliser des classifieurs linéaires, en particulier la régression logistique et les machines à vecteurs de support (SVM), avec scikit-learn. Une fois que vous saurez appliquer ces méthodes, vous explorerez les idées qui les sous-tendent pour comprendre ce qui les fait réellement fonctionner. À la fin du cours, vous saurez entraîner, tester et ajuster ces classifieurs linéaires en Python. Vous disposerez aussi d’une base conceptuelle pour comprendre de nombreux autres algorithmes de Machine Learning.

Supervised Learning with scikit-learn

Dans ce cours, vous apprendrez les détails des classificateurs linéaires comme la régression logistique et SVM.

Classifieurs linéaires en Python

Dans ce cours, vous apprendrez les détails des classificateurs linéaires tels que la régression logistique et les SVM.

Chercheur en apprentissage automatique en Python

Apprentissage automatique supervisé en Python

Un avantage de la régression logistique

Exercice interactif pratique