之前比赛中,在处理完数据之后,要将分类型变量统一做编码处理,可能太紧张把这个问题疏忽了,后来想想为什么这么简单的事都能忘!借此机会在记录一下
离散变量一般情况下是类别变量。一般情况下,类别变量和连续变量是需要统一的。
比如今天的降雨量这种连续型变量,我们可以将其转换为下雨或者不下雨两种状态,如果今天的降雨量不为0,我们可以将其定义为下雨,反之,降雨量为0,当然就是不下雨了。
但是,很显然,把这种连续型变量统一到类别型变量的做法,肯定是会丢失很多信息的,所以通常的做法就是编码类别型变量。
编码类别型变量,最直接的做法就是标签编码,简单来说就是给每个类别分配一个序号。
最常见的肯定就是独热编码了,简单。但是如果这个类别的值特别多的话,就不太适合用独热编码了,因为维度会很大,这种情况下可以使用均值编码,使用平均数编码类别变量。当然均值编码也有缺点,容易过拟合和数据泄露,可以搭配正则化使用。
最后在记录一下之前自己学到的方法
#将所有的分类型变量编码为数字,一个类别是一个数字 from sklearn.preprocessing import OrdinalEncoder oe = OrdinalEncoder() #利用训练集进行fit oe = oe.fit(Xtrain.loc[:,cate]) #用训练集的编码结果来编码训练和测试特征矩阵 #在这里如果测试特征矩阵报错,就说明测试集中出现了训练集中从未见过的类别 Xtrain.loc[:,cate] = oe.transform(Xtrain.loc[:,cate]) Xtest.loc[:,cate] = oe.transform(Xtest.loc[:,cate]) Xtrain.loc[:,cate].head() Xtest.loc[:,cate].head()
紧张就会忘记的东西肯定就是没记牢的,你记得特别扎实的东西怎么紧张都不会忘



