栏目分类:
子分类:
返回
名师互学网用户登录
快速导航关闭
当前搜索
当前分类
子分类
实用工具
热门搜索
名师互学网 > IT > 前沿技术 > 大数据 > 大数据系统

pandas大数据量rank函数nan无数据 以及 SettingWithCopyWarning告警问题解决

pandas大数据量rank函数nan无数据 以及 SettingWithCopyWarning告警问题解决

rank函数问题

刚一开始是这么写的

df_init_['序号'] = df_init_.更新时间.rank(axis=0, method='max', na_option='bottom')  # 按照支付时间排序

,结果发现自己造的十几条数据没有任何问题,也能按照预期排序,但一放进生产上,‘序号’这一列就全部都是nan,如图

注意看最后一列,也就是‘序号’列,都是nan值,百思不得其解,后来在官网上找到这么几句话

这里说的很简单,推荐使用df.loc[]这种方式,不推荐使用df[columns]的方式,我相信很多人跟我一样,知道不推荐,但还是要用,因为方便,那这和我们遇到的问题有关系吗?答案是有的,继续往下看,找到了更针对性的话语:

请特别注意我框出来的地方,这段话很清晰的告诉你,如果你使用df[column]的方式,pandas不保证返回的结果是这个df本身还是一个副本,也就是说,如果返回的是一个副本,那结果很显然,你想要的那个df里自然就没有这一列了,

而这个问题其实在数据量小的时候是看不出来的,上面文档已经说了,返回副本还是视图是由内存决定的,所以我个人推测数据量大的时候内存占用也大,所以就返回一个副本另设定一个变量了,要解决其实也简单,只需要改成这样

df_init_.loc[:, '序号'] = df_init_.更新时间.rank(axis=0, method='max', na_option='bottom')  # 按照支付时间排序
SettingWithCopyWarning

这个问题其实和上面那个一脉相承,与这个标题一同出现的还有两行:
(1)ttingWithCopyWarning:

A value is trying to be set on a copy of a slice from a Dataframe

See the caveats in the documentation: https://pandas.pydata.org/pandas-docs/stable/user_guide/indexing.html#returning-a-view-versus-a-copy return super().rename(

(2)SettingWithCopyWarning:

A value is trying to be set on a copy of a slice from a Dataframe.

Try using .loc[row_indexer,col_indexer] = value instead

See the caveats in the documentation: https://pandas.pydata.org/pandas-docs/stable/user_guide/indexing.html#returning-a-view-versus-a-copy self.obj[item_labels[indexer[info_axis]]] = value

其实真正的原因还是:python中的“变量”其实是一个“标签”,而不是一个“容器”。当用df=dfSource[…]截取第5至10行后,df实际是一个指向dfSource第5至10的“标签”,在内存中并没有为df分配新的地址存储希望截取的数据。

解决办法也简单,给所有为了想要获取实际有意义的变量df赋值前,先进行copy,例如这样

df_init_ = df_init.copy()

copy之后,df_init_就会获得实际的内存地址和数据,而不是仅仅是指向df_init的的路标。

至此,问题解决完毕

转载请注明:文章转载自 www.mshxw.com
本文地址:https://www.mshxw.com/it/758614.html
我们一直用心在做
关于我们 文章归档 网站地图 联系我们

版权所有 (c)2021-2022 MSHXW.COM

ICP备案号:晋ICP备2021003244-6号