参考资料《我的第一本算法书》
第6章 聚类
即在输入多个数据时,将“相似”的数据分为一组的操作。1个组就叫作一个簇。
“相似”也是指距离小,数据间的差距需要自己定义,而如何设定取决于聚类的目的。
最具代表性的聚类算法有“k-means算法”。该算法可以把数据按要求分为k个簇。
1.k-means算法
(1)事先根据给定的簇的数量进行聚类。
(2)过程如下:(假设事先定为n类)(将数据看作点)
*随机选择n个点作为簇的中心。
*计算各个数据分别与n个中心点中的哪一个点距离最近。
*将数据分到相应簇中。
*计算各个簇中数据的重心,然后将簇的中心点移动到这个位置。
*重新计算与中心点的距离,并将数据分到相应的簇中。
*重复执行“将中心点移到重心的位置”和“将数据分到相应的簇中”,直到中心点不再发生变化为止。
(3)k-means算法中,随着操作的不断重复,中心点的位置必定会在某处收敛。
(4)如果设定的类不合理,运行的结果可能也不会符合我们的要求。所以应该按情况改变类别的数量。
2.层次聚类
(1)不需要事先设定簇的数量,一开始每个数据都自成一类。
(2)然后重复执行“将距离最近的两个簇合并为一个”的操作。
(3)在这个过程中,每个阶段的簇的数量都不同,对应的聚类结果也会不同,只要选择其中最合理的结果即可。
(4)找“距离最近的两个簇”,需要对簇之间的距离进行定义。根据定义方法不同,可能会有不同的结果。有“最短距离法”、“最长距离法”、“中间距离法”等多种算法。



