高斯混合模型

Gaussian Distribution

首先复习一下高斯分布：

$$N(x,\mu ,\sigma )=\frac{1}{\sqrt{2\pi \sigma }}\exp (-\frac{(x-\mu {)}^2}{2{\sigma }^2})$$

用高斯分布估计数据分布是有很大的局限的，它一定对称，只有一个峰值，这些使得它再估计真实数据时表现很乏力，因此引入了高斯混合模型。

Gaussion Mixture Model

顾名思义，高斯混合模型就是很多个高斯模型混合在一起

如图，黑色的分布就是下面彩色高斯分布混合而成。实际上就是很多高斯的加权和：

$$p(x)=\sum _{k=1}^K{W}_k\ast g_k(x|{\mu }_k,{\sigma }_k)$$

其中，

• g_k表示第k个高斯分布，具体公式就是上面列的高斯分布公式；

• w_k是它的权重系数，因此满足：

$$W_k>0\sum _{k=1}^K{W}_k=1$$