In this chapter, you will be introduced to fundamental concepts in model-based clustering and how this approach differs from other clustering techniques. You will learn the generating process of Gaussian Mixture Models as well as how to visualize the clusters.

Introduction to model-based clustering

Clustering approaches

Explore gender data

Gaussian distribution

Sampling a Gaussian distribution

(not so good) Estimations of the mean and sd

Gaussian mixture models (GMM)

Simulate a mixture of two Gaussian distributions

Plot histogram of Gaussian Mixture

Mixture of three Gaussian distributions

Introduction to Mixture Models

In this chapter, you will be introduced to the main structure of Mixture Models, how to address different data with this approach and how to estimate the parameters involved. To accomplish the estimation, you will learn an iterative method called Expectation-Maximization algorithm.

Structure of mixture models

Which probability distribution?

Handwritten digits dataset

Parameters estimation

Estimation given the probabilities

Calculating the probabilities

EM algorithm

Expectation function

Maximization function

Apply the two steps

Plot the estimated clusters

Structure of Mixture Models and Parameters Estimation

This chapter shows how to fit Gaussian Mixture Models in 1 and 2 dimensions with `flexmix` package. The data used is formed by 10.000 observations of people with their weight, height, body mass index and informed gender.

Modelli di Mixture Gaussiana univariati

Numero di cluster

Numero di parametri

Modelli di Mixture Gaussiana univariata con flexmix

Caso univariato con flexmix

Estrazione dei parametri per il caso univariato

Visualizzare un Mixture Model gaussiano univariato

Confronta i risultati

Modelli di Mixture Gaussiana bivariata

Termine incrociato della matrice di covarianza

Parametri nel caso bivariato

Modelli di mixture gaussiana bivariata con flexmix

Stima il modello con termini incrociati

Ottieni le componenti

Crea le ellissi

Visualizza i cluster

Mixture of Gaussians with `flexmix`

In this module, you will learn how Mixture Models extends to consider probability distributions different from the Gaussian and how these models are fitted with `flexmix`. The datasets used are handwritten digits images and the number of crimes in Chicago city. For the first dataset you will find clusters that summarize the handwritten digits and for the second dataset, you will find clusters of communities where is more or less dangerous to live in.

Bernoulli Mixture Models

Binary images

How many values?

Bernoulli Mixture Models with flexmix

Handwritten digits with `flexmix`

Poisson Mixture Models

Discover the lambda

Sample from Poisson distribution

Poisson Mixture Models with flexmix

Crimes data with `flexmix`

Mixture Models Beyond Gaussians

Chicago Crimes dataset

Digits dataset

Gender dataset

La modellazione a mixture è un modo per rappresentare popolazioni quando ci interessa la loro eterogeneità. I modelli di mixture usano distribuzioni di probabilità note (ad es. Gaussiana, Poisson, Binomiale) per offrire un quadro statistico comodo ma formale per il clustering e la classificazione. Diversamente dagli approcci di clustering standard, possiamo stimare la probabilità di appartenenza a un cluster e fare inferenze sulle sotto-popolazioni. Ad esempio, in ambito marketing, potresti voler raggruppare diversi segmenti di clienti e stimare le rispettive probabilità di acquisto di prodotti specifici, così da indirizzarli meglio con promozioni personalizzate. Applicando il natural language processing a un ampio insieme di documenti, potresti voler raggruppare i testi in argomenti diversi e capire quanto ciascun argomento sia rilevante in ogni documento. In questo corso imparerai cosa sono i modelli di mixture, come si stimano e quando è appropriato applicarli!

Intermediate R

Introduction to the Tidyverse

Foundations of Probability in R

Impara i modelli di miscela: un quadro statistico per il clustering e la classificazione probabilistica.

Modelli di Mixture in R

Impara i modelli misti: un modo pratico e formale per fare statistiche su raggruppamenti e classificazioni probabilistiche.

Researcher at The University of Edinburgh

Bivariate Gaussian Mixture Models

Gender data

Exploratory data analysis

Modeling with mixture models

Bivariate Gaussian distribution

Coming back to the Gender data

Let's practice!

Mixture of Gaussians with `flexmix` - Modelli di Mixture Gaussiana bivariata

Modelli di Mixture Gaussiana bivariata

Create Your Free Account