栏目分类:
子分类:
返回
名师互学网用户登录
快速导航关闭
当前搜索
当前分类
子分类
实用工具
热门搜索
名师互学网 > IT > 前沿技术 > 大数据 > 大数据系统

spark pineline流水线+聚类评估函数 小结

spark pineline流水线+聚类评估函数 小结

一.pineline的作用主要是由各个stages阶段组成,每个stage可以是一个transformer或者是一个esimator,
比如VectorAssember就是一个transformer,它拥有transform方法,而LinearRegression就是一个estimator,它的
fit方法得到对应的model,这个LinearRegressionModel是一个transformer,当pineline把多个transformer和estimator组合起来时,
前一个stage的输入就是下一个stage的输出,对于estimator来说,如果紧随着这个estimator还有下一个stage,那么会依次调用这个
estimator的fit,以及fit方法返回的model的transform方法,然后把输出作为下一个stage的输入

二.聚类评估函数Clustingevaluator的轮廓系数:他是一个衡量聚类是否合理的一个指标,主要包括以下两个组成部分:
1.族内的平均距离度量ai,表示i样本和族内的样本的平均欧式距离
2.族间的平均距离度量bi,比如i样本和族C的样本的平均欧式距离bic, i样本和族D的样本的平均欧式距离bid,
bi取min{bic,bid},用来表示族间的平均距离度量
轮廓系数定义为: (Silhouette Coefficient) = (bi - ai)/max(bi,ai),由该公式可以直观的看出,
bi越大,ai越小越好,也就是越接近于1就越好,相反,bi越小,ai越大,也就是越接近于-1那效果就越差

参考文献:
https://blog.csdn.net/wangxiaopeng0329/article/details/53542606
https://jishuin.proginn.com/p/763bfbd57450

转载请注明:文章转载自 www.mshxw.com
本文地址:https://www.mshxw.com/it/775620.html
我们一直用心在做
关于我们 文章归档 网站地图 联系我们

版权所有 (c)2021-2022 MSHXW.COM

ICP备案号:晋ICP备2021003244-6号