主页 > 知识库 > python数据分析必会的Pandas技巧汇总

python数据分析必会的Pandas技巧汇总

热门标签:铁路电话系统 智能手机 银行业务 网站文章发布 服务器配置 呼叫中心市场需求 检查注册表项 美图手机

一、Pandas两大数据结构的创建

序号 方法 说明
1 pd.Series(对象,index=[ ]) 创建Series。对象可以是列表\ndarray、字典以及DataFrame中的某一行或某一列
2 pd.DataFrame(data,columns = [ ],index = [ ]) 创建DataFrame。columns和index为指定的列、行索引,并按照顺序排列

举例:用pandas创建数据表:

df = pd.DataFrame({"id":[1001,1002,1003,1004,1005,1006], 
 "date":pd.date_range('20130102', periods=6),
  "city":['Beijing ', 'SH', ' guangzhou ', 'Shenzhen', 'shanghai', 'BEIJING '],
 "age":[23,44,54,32,34,32],
 "category":['100-A','100-B','110-A','110-C','210-A','130-F'],
  "price":[1200,np.nan,2133,5433,np.nan,4432]},
  columns =['id','date','city','category','age','price'])

二、DataFrame常见方法

序号 方法 说明
1 df.head() 查询数据的前五行
2 df.tail() 查询数据的末尾5行
3 pandas.qcut() 基于秩或基于样本分位数将变量离散化为等大小桶
4 pandas.cut() 基于分位数的离散化函数
5 pandas.date_range() 返回一个时间索引
6 df.apply() 沿相应轴应用函数
7 Series.value_counts() 返回不同数据的计数值
8 df.reset_index() 重新设置index,参数drop = True时会丢弃原来的索引,设置新的从0开始的索引,常与groupby()一起用

举例:重新索引

df_inner.reset_index()

三、数据索引

序号 方法 说明
1 .values 将DataFrame转换为ndarray二维数组
2 .append(idx) 连接另一个Index对象,产生新的Index对象
3 .insert(loc,e) 在loc位置增加一个元素
4 .delete(loc) 删除loc位置处的元素
5 .union(idx) 计算并集
6 .intersection(idx) 计算交集
7 .diff(idx) 计算差集,产生新的Index对象
8 .reindex(index, columns ,fill_value, method, limit, copy ) 改变、重排Series和DataFrame索引,会创建一个新对象,如果某个索引值当前不存在,就引入缺失值。
9 .drop() 删除Series和DataFrame指定行或列索引。
10 .loc[行标签,列标签] 通过标签查询指定的数据,第一个值为行标签,第二值为列标签。
11 df.iloc[行位置,列位置] 通过默认生成的数字索引查询指定的数据。

举例:按索引提取单行的数值

df_inner.loc[3]

四、DataFrame选取和重新组合数据的方法

序号 方法 说明
1 df[val] 从DataFrame选取单列或一组列;在特殊情况下比较便利:布尔型数组(过滤行)、切片(行切片)、或布尔型DataFrame(根据条件设置值)
2 df.loc[val] 通过标签,选取DataFrame的单个行或一组行
3 df.loc[:,val] 通过标签,选取单列或列子集
4 df.1oc[val1,val2] 通过标签,同时选取行和列
5 df.iloc[where] 通过整数位置,从DataFrame选取单个行或行子集
6 df.iloc[:,where] 通过整数位置,从DataFrame选取单个列或列子集
7 df.iloc[where_i,where_j] 通过整数位置,同时选取行和列
8 df.at[1abel_i,1abel_j] 通过行和列标签,选取单一的标量
9 df.iat[i,j] 通过行和列的位置(整数),选取单一的标量
10 reindex 通过标签选取行或列
11 get_value 通过行和列标签选取单一值
12 set_value 通过行和列标签选取单一值

举例:使用iloc按位置区域提取数据

df_inner.iloc[:3,:2]

#冒号前后的数字不再是索引的标签名称,而是数据所在的位置,从0开始,前三行,前两列。

五、排序

序号 函数 说明
1 .sort_index(axis=0, ascending=True) 根据指定轴索引的值进行排序
2 Series.sort_values(axis=0, ascending=True) 只能根据0轴的值排序。
3 DataFrame.sort_values(by, axis=0, ascending=True) 参数by为axis轴上的某个索引或索引列表。

举例:按照索引列排序

df_inner.sort_index()

六、相关分析和统计分析

序号 方法 说明
1 .idxmin() 计算数据最小值所在位置的索引(自定义索引)
2 .idxmax() 计算数据最大值所在位置的索引(自定义索引)
3 .argmin() 计算数据最小值所在位置的索引位置(自动索引)
4 .argmax() 计算数据最大值所在位置的索引位置(自动索引)
5 .describe() 针对各列的多个统计汇总,用统计学指标快速描述数据的概要
6 .sum() 计算各列数据的和
7 .count() 非NaN值的数量
8 .mean( ) 计算数据的算术平均值
9 .median() 计算算术中位数
10 .var() 计算数据的方差
11 .std() 计算数据的标准差
12 .corr() 计算相关系数矩阵
13 .cov() 计算协方差矩阵
14 .corrwith() 利用DataFrame的corrwith方法,可以计算其列或行跟另一个Series或DataFrame之间的相关系数。
15 .min() 计算数据的最小值
16 .max() 计算数据的最大值
17 .diff() 计算一阶差分,对时间序列很有效
18 .mode() 计算众数,返回频数最高的那(几)个
19 .mean() 计算均值
20 .quantile() 计算分位数(0到1)
21 .isin() 用于判断矢量化集合的成员资格,可用于过滤Series中或DataFrame列中数据的子集
22 .unique() 返回一个Series中的唯一值组成的数组。
23 .value_counts() 计算一个Series中各值出现的频率。

举例:判断city列的值是否为北京

df_inner['city'].isin(['beijing']) 

七、分组的方法

序号 方法 说明
1 DataFrame.groupby() 分组函数
2 pandas.cut() 根据数据分析对象的特征,按照一定的数值指标,把数据分析对象划分为不同的区间部分来进行研究,以揭示其内在的联系和规律性。

举例:.groupby用法

group_by_name=salaries.groupby('name')
print(type(group_by_name))

输出结果为:

class 'pandas.core.groupby.DataFrameGroupBy'

八、读写文本格式数据的方法

序号 方法 说明
1 read_csv 从文件、URL、文件型对象中加载带分隔符的数据。默认分隔符为逗号
2 read_table 从文件、URL、文件型对象中加载带分隔符的数据。默认分隔符为制表符(t)
3 read_ fwf 读取定宽列格式数据(也就是说,没有分隔符)
4 read_clipboard 读取剪贴板中的数据,可以看做read_table的剪贴板版。再将网页转换为表格时很有用
5 read_excel 从ExcelXLS或XLSXfile 读取表格数据
6 read_hdf 读取pandas写的HDF5文件
7 read_html 读取HTML文档中的所有表格
8 read_json 读取JSON字符串中的数据
9 read_msgpack 二进制格式编码的pandas数据
10 read_pickle 读取Python pickle格式中存储的任意对象
11 read_sas 读取存储于SAS系统自定义存储格式的SAS数据集
12 read_sql 读取SQL 查询结果为pandas的DataFrame
13 read_stata 读取Stata文件格式的数据集
14 read_feather 读取 Feather二进制文件格式

举例:导入CSV或者xlsx文件

df = pd.DataFrame(pd.read_csv('name.csv',header=1))
df = pd.DataFrame(pd.read_excel('name.xlsx'))

九、处理缺失数据

序号 方法 说明
1 .fillna(value,method,limit,inplace) 填充缺失值
2 .dropna() 删除缺失数据
3 .info() 查看数据的信息,包括每个字段的名称、非空数量、字段的数据类型
4 .isnull() 返回一个同样长度的值为布尔型的对象(Series或DataFrame),表示哪些值是缺失的

举例:查看数据表基本信息(维度、列名称、数据格式等等)

df.info()

十、数据转换

序号 方法 说明
1 .replace(old, new) 用新的数据替换老的数据,如果希望一次性替换多个值,old和new可以是列表。默认会返回一个新的对象,传入inplace=True可以对现有对象进行就地修改。
2 .duplicated() 判断各行是否是重复行,返回一个布尔型Series。
3 .drop_duplicates() 删除重复行,返回删除后的DataFrame对象。

举例:删除后出现的重复值:

df['city'].drop_duplicates()

本文总结的是都是一些Pandas常用的方法,至于一些基础的概念还需要你学到Pandas的时候去理解,例如Series是什么?DataFrame是什么?如果你已经清楚了Pandas的这些基础东西之后,搭配上文章中的这些方法,那你用Pandas去做数据处理和分析必然会游刃有余。

您可能感兴趣的文章:
  • Pandas数据分析的一些常用小技巧
  • python之pandas用法大全
  • Python pandas用法最全整理
  • Python Pandas常用函数方法总结
  • Python遍历pandas数据方法总结
  • Python pandas常用函数详解
  • Python使用Pandas库常见操作详解
  • pandas提升计算效率的一些方法汇总
  • 11个Python Pandas小技巧让你的工作更高效(附代码实例)
  • 详解pandas获取Dataframe元素值的几种方法

标签:红河 长治 沈阳 乐山 上海 沧州 河南 新疆

巨人网络通讯声明:本文标题《python数据分析必会的Pandas技巧汇总》,本文关键词  ;如发现本文内容存在版权问题,烦请提供相关信息告之我们,我们将及时沟通与处理。本站内容系统采集于网络,涉及言论、版权与本站无关。
  • 相关文章
  • 收缩
    • 微信客服
    • 微信二维码
    • 电话咨询

    • 400-1100-266