分类数据和顺序数据要参与模型计算,通常都会转化为数值型数据。当然,某些算法是允许这些数据直接参与计算的,例如决策树、关联规则等。
真值转换
要将非数值型数据转换为数值型数据的最佳方法是:将所有分类或顺序变量的值域从一列多值的形态转换为多列只包含真值的形态,其中的真值可通过True、False或0、1的方式来表示。这种标志转换的方法有时候也称为真值转换。
代码如下:
import pandas as pd # 导入pandas库
from sklearn.preprocessing import OneHotEncoder # 导入OneHotEncoder库
# 1.自定义转换主过程
df1 = pd.DataFrame({'id': [3566841, 6541227, 3512441],
'sex': ['male', 'Female', 'Female'],
'level': ['high', 'low', 'middle']})
df1_new = df1.copy() # 复制一份新的数据框用来存储转换结果
for col_num, col_name in enumerate(df1): # 循环读出每个列的索引值和列名
col_data = df1[col_name] # 获得每列数据
col_dtype = col_data.dtype # 获得每列数据类型
if col_dtype == 'object': # 如果dtype类型是object,执行条件
df1_new = df1_new.drop(col_name, axis=1) # 删除df数据框中要进行标志转换的列
value_sets = col_data.unique() # 获取分类和顺序变量的唯一值域
for value_unique in value_sets: # 读取分类和顺序变量中的每个值
col_name_new = col_name + '_' + value_unique # 创建新的列名
col_tmp = df1.iloc[:, col_num] # 获取原始数据列
new_col = (col_tmp == value_unique) # 将原始数据列与每个值进行比较
df1_new[col_name_new] = new_col # 为最终结果集增加新列值
print(df1_new)
# 2.使用sklearn进行标志转换
df2 = pd.DataFrame({'id': [3566841, 6541227, 3512441],
'sex': [1, 2, 2],
'level': [3, 1, 2]})
id_data = df2.values[:, :1] # 获得ID列
transform_data = df2.values[:, 1:] # 指定要转换的列
enc = OneHotEncoder() # 建立模型对象
#如果不使用toarray进行转换,那么输出的数据是一个3行5列的稀疏矩阵。
df2_new = enc.fit_transform(transform_data).toarray() # 标志转换
df2_all = pd.concat((pd.DataFrame(id_data,columns=['id']), pd.DataFrame(df2_new,columns=['sex1','sex2','level1','level2','level3'])),axis=1)
print(df2_all)
#还可以使用drop参数将每个列编码为n_categories-1列,而不是n_categories列。此参数允许用户为要删除的每个特征指定类别。
#这对于避免某些分类器中输入矩阵的共线性是有用的。
enc_drop = OneHotEncoder(drop='first') # 建立模型对象
#如果不使用toarray进行转换,那么输出的数据是一个3行5列的稀疏矩阵。
df3_new = enc_drop.fit_transform(transform_data).toarray() # 标志转换
df3_all = pd.concat((pd.DataFrame(id_data,columns=['id']), pd.DataFrame(df3_new,columns=['sex','level1','level2'])),axis=1)
print(df3_all)
标签编码
可以将数值型或非数值型标签的编码转换成数值标签,编码值范围限定在[0,标签长度-1],对于非数值型标签转化的要求是只要它们是可哈希并且可比较的。
代码如下:
from sklearn.preprocessing import LabelEncoder # 导入LabelEncoder库 le = LabelEncoder() le.fit(["paris", "paris", "tokyo", "amsterdam"]) print(list(le.classes_)) print(le.transform(["tokyo", "tokyo", "paris"])) print(le.inverse_transform([2, 2, 1]))



