本章将介绍基于模型的聚类的基本概念，以及这种方法与其他聚类技术的差异。您将学习高斯混合模型的生成过程，并了解如何可视化聚类结果。

基于模型的聚类简介

聚类方法

探索性别数据

高斯分布

从高斯分布采样

（不是很好的）均值与标准差估计

高斯混合模型（GMM）

模拟由两个 Gaussian 分布组成的混合

绘制高斯混合的直方图

三个高斯分布的混合

混合模型入门

本章将介绍混合模型的主要结构，如何用该方法处理不同类型的数据，以及如何估计相关参数。为完成估计，您将学习一种迭代方法——期望最大化（Expectation-Maximization）算法。

混合模型的结构

该用哪种概率分布？

手写数字数据集

参数估计

已知概率下的参数估计

计算概率

EM 算法

期望函数

最大化函数

应用两个步骤

绘制估计的簇

混合模型的结构与参数估计

本章演示如何使用 `flexmix` 包在 1 维和 2 维上拟合高斯混合模型。所用数据包含 10,000 条个人观测，包含体重、身高、体重指数以及申报的性别。

单变量高斯混合模型

聚类数量

参数个数

使用 flexmix 的单变量高斯混合模型

使用 flexmix 的一维情形

单变量情形的参数提取

可视化一元高斯混合模型

比较结果

二维高斯混合模型

协方差矩阵中的交叉项

二维情形下的参数

使用 flexmix 的二元高斯混合模型

在含交叉项的情况下拟合模型

提取组件

绘制椭圆

可视化聚类

使用 `flexmix` 的高斯混合

在本模块中，您将学习如何将混合模型扩展到高斯分布之外的其他概率分布，并了解如何使用 `flexmix` 对这些模型进行拟合。所用数据集包括手写数字图像和芝加哥市的犯罪数量。对于第一个数据集，您将找到能概括手写数字的聚类；对于第二个数据集，您将识别出更危险或较不危险的社区聚类。

Bernoulli 混合模型

二值图像

需要估计多少个值？

使用 flexmix 的 Bernoulli 混合模型

使用 `flexmix` 处理手写数字

Poisson 混合模型

找出 lambda

从 Poisson 分布采样

使用 flexmix 的 Poisson 混合模型

使用 `flexmix` 处理犯罪数据

超越高斯的混合模型

Chicago Crimes dataset

Digits dataset

Gender dataset

混合建模用于在关注总体异质性时对其进行刻画。混合模型借助常见的概率分布（如 Gaussian、Poisson、Binomial），提供了一个便捷且规范的统计框架，用于聚类和分类。与传统聚类方法不同，我们可以估计样本属于某个簇的概率，并对子总体进行推断。例如，在营销场景中，您可能希望对不同客户群体进行聚类，并找出他们购买特定产品的概率，从而以更有针对性的个性化促销触达他们。再如，在对大量文档进行自然语言处理时，您可能希望将文档聚成不同主题，并了解各主题在每篇文档中的重要性。在本课程中，您将学习什么是混合模型、如何估计这些模型，以及在何种情境下适合应用它们。

Intermediate R

Introduction to the Tidyverse

Foundations of Probability in R

学习混合模型：一种便捷且正式的统计框架，用于概率聚类和分类。

R 中的混合模型

学习混合模型：一种用于概率聚类和分类的便捷且正式的统计框架。

Researcher at The University of Edinburgh

Gender 数据集

用混合模型建模

flexmix 函数

拟合单变量高斯混合模型

比例：prior 函数

均值与标准差：parameters 函数

可视化得到的分布

后验概率与聚类分配

分配结果对比

让我们来练习！

使用 `flexmix` 的高斯混合 - 使用 flexmix 的单变量高斯混合模型

使用 flexmix 的单变量高斯混合模型

Create Your Free Account