Density-based Clustering

第二种类型的聚类算法叫做“密度聚类”，即基于密度的聚类。这一类模型是根据样本之间的紧密程度进行聚类，通过样本的密度来考虑样本之间的可连接性。其中，DBSCAN是最为著名的密度聚类模型。DBSCAN基于一组“邻域”参数$(ϵ,MinPts)$来刻画样本之间的紧密程度，给定数据集 D = { x 1 , x 2 , … , x n } D=\{x_1,x_2,\dots,x_n\} D={x1​,x2​,…,xn​}，有以下几个重要概念：

• $ϵ$-邻域：对于$x_j\in D$，其$ϵ$-邻域是数据集$D$中所有与$x_j$距离不大于$ϵ$的样本，即 N ϵ ( x j ) = { x i ∈ D   ∣   d i s t ( x i , x j ) ≤ ϵ } N_{\epsilon}(x_j)=\{x_i \in D\ |\ dist(x_i, x_j)\le \epsilon \} Nϵ​(xj​)={xi​∈D ∣ dist(xi​,xj​)≤ϵ}
• 核心对象(core object)：若$x_j$的$ϵ$邻域中至少包含$MinPts$个样本，即$|N_{ϵ}(x_j)|\ge MinPts$，那么$x_j$就被叫做一个核心对象
• 密度直达(directly density-reachable)：若$x_j$在$x_i$的邻域里，且$x_i$是核心对象，那么称$x_i$和$x_j$是密度直达的
• 密度可达(density reachable)：对$x_i$和$x_j$，若存在样本序列$p_1,p_2,\dots ,p_n$，其中$p_1=x_i,p_n=x_j$，且$p_{i+1}$可由$p_i$密度直达，那么称$x_i$和$x_j$密度可达
• 密度相连(density connected)：对$x_i$和$x_j$，若存在$x_k$使得$x_i$和$x_j$均和$x_k$密度可达，那么称$x_i$和$x_j$密度相连

基于以上概念，DBSCAN对“簇”的定义为：由密度可达关系导出的最大的密度相连样本集合。给定参数$(ϵ,MinPts)$，簇$C\subseteq D$，那么$C$满足以下性质：

• 连接性：$x_i,x_j\in C\Rightarrow x_i{x}_j$密度相连
• 最大性：$x_i\in C$，$x_i$和$x_j$密度可达 $\Rightarrow x_j\in C$

在实际写代码过程中，假如$x$是一个核心对象，那么只需要找到所有和$x$密度可达的样本$\hat{x}$，那么这些样本所组成的是一个簇。算法流程如下：