pandas定义:pandas是基于NumPy数组构建的,使数据预处理、清洗、分析工作变得更快更简单。pandas是专门为处理表格和混杂数据设计的,而NumPy更适合处理统一的数值数组数据。
- 导入
一般我们需要做如下导入,numpy和pandas一般需要联合使用:
import pandas as pd
import numpy as np
本文采用如下缩写:
df:Pandas Dataframe对象
s: Pandas Series对象 - 数据导入
pd.read_csv(filename):从CSV文件导入数据
pd.read_table(filename):从限定分隔符的文本文件导入数据pd.read_excel(filename):从Excel文件导入数据pd.read_sql(query, connection_object):从SQL表/库导入数据pd.read_json(json_string):从JSON格式的字符串导入数据pd.read_html(url):解析URL、字符串或者HTML文件pd.read_clipboard():从粘贴板获取内容pd.Dataframe(dict):从字典对象导入数据 - 数据导出
df.to_csv(filename):导出数据到CSV文件
df.to_excel(filename):导出数据到Excel文件
df.to_sql(table_name, connection_object):导出数据到SQL表
df.to_json(filename):以Json格式导出数据到文本文件 - 遍历
方式1
for index, row in df.iterrows():
print row[“c1”], row[“c2”]
方式2
for row in df.itertuples(index=True, name=‘Pandas’):
print getattr(row, “c1”), getattr(row, “c2”)
方式3
for i in range(0, len(df)):
print df.iloc[i][‘c1’], df.iloc[i][‘c2’] - 创建对象
pd.Dataframe(np.random.rand(20,5)):创建20行5列的随机数组成的Dataframe对象
pd.Series(my_list):从可迭代对象my_list创建一个Series对象
df.index = pd.date_range(‘1900/1/30’, periods=df.shape[0]):增加一个日期索引
index和reindex联合使用很有用处,index可作为索引并且元素乱排序之后,所以跟着元素保持不变,因此,当重拍元素时,只需要对index进行重排即可。
标准正太分布数据:s = np.random.normal(0,1,10000)
时间数据:dates = pd.date_range(‘20171021’,periods=6)
随机矩阵:df1 = pd.Dataframe(np.random.randn(6,4), index=dates, columns=list(‘ABCD’))
字典创建:
df = pd.Dataframe({
‘A’:pd.series([1,2,np.nan,6,8]),
‘B’:pd.Timestamp(‘20130102’),
‘C’:pd.Series(1,index=list(range(4)),dtype=‘float32’),
‘D’:np.array([3]*4,dtype=‘int32’),
‘E’:pd.Categorical([‘test’,‘train’,‘trat’,‘train’]),
‘F’:‘foo’
}) - 数据查看
df.head(n):查看Dataframe对象的前n行
df.tail(n):查看Dataframe对象的最后n行
df.shape():查看行数和列数
df.info():查看索引、数据类型和内存信息
df.describe():查看数值型列的汇总统计
s.value_counts(dropna=False):查看Series对象的唯一值和计数
df.apply(pd.Series.value_counts):查看Dataframe对象中每一列的唯一值和计数
apply的用处很多,比如可以通过跟lambda函数联合,完成很多功能:将包含某个部分的元素挑出来等等。
df.values.tolist()获得值
df.columns.values.tolist()获得列名 - 数据选取
df[col]:根据列名,并以Series的形式返回列
df[[col1, col2]]:以Dataframe形式返回多列
s.iloc[0]:按位置选取数据
s.loc[‘index_one’]:按索引选取数据
df.loc基于标签,
df.iloc基于索引(从0开始)
df.iloc[0,:]:返回第一行
df.iloc[3] #第四行
df.iloc[:,3] #第四列
df.iloc[3:5,0:2] #第四到六行,第一到三列
df.iloc[[4,5,6],[0,1,2]] #第四到六行,第一到三列
df[] #这是对行进行切片 - 数据清洗
df.columns = [‘a’,‘b’,‘c’]:重命名列名
pd.isnull():检查Dataframe对象中的空值,并返回一个Boolean数组
pd.notnull():检查Dataframe对象中的非空值,并返回一个Boolean数组
df.dropna():删除所有包含空值的行
df.fillna(x):用x替换Dataframe对象中所有的空值
s.astype(float):将Series中的数据类型更改为float类型s.replace(1,‘one’):用‘one’代替所有等于1的值df.rename(columns=lambda x: x + 1):批量更改列名df.set_index(‘column_one’):更改索引列 - 数据处理
Filter, Sort, GroupBy
df[df[col] > 0.5]:选择col列的值大于0.5的行
df.sort_values(col1):按照列col1排序数据,默认升序排列df.groupby(col):返回一个按列col进行分组的Groupby对象df.groupby(col1).agg(np.mean):返回按列col1分组的所有列的均值
df.pivot_table(index=col1, values=[col2,col3], aggfunc=max):创建一个按列col1进行分组,并计算col2和col3的最大值的数据透视表df.apply(function) #通过自定义函数,应用于df中 - 数据合并
df1.append(df2):将df2中的行添加到df1的尾部
df.concat([df1, df2],axis=1):将df2中的列添加到df1的尾部df1.join(df2,on=col1,how=‘inner’):对df1的列和df2的列执行SQL形式的join - 数据统计
df.describe():查看数据值列的汇总统计
df.mean():返回所有列的均值
df.corr():返回列与列之间的相关系数
df.count():返回每一列中的非空值的个数
df.max():返回每一列的最大值
df.min():返回每一列的最小值
df.median():返回每一列的中位数
df.std():返回每一列的标准差
Pandas支持的数据类型:
int 整型
float 浮点型
bool 布尔类型
object 字符串类型
category 种类
datetime 时间类型 - 其他
df.astypes: 数据格式转换
df.value_counts:相同数值的个数统计df.hist(): 画直方图df.get_dummies: one-hot编码,将类型格式的属性转换成矩阵型的属性。



