栏目分类:
子分类:
返回
名师互学网用户登录
快速导航关闭
当前搜索
当前分类
子分类
实用工具
热门搜索
名师互学网 > IT > 面试经验 > 面试问答

在Python中打开没有换行符的大型JSON文件以进行csv转换Python 2.6.6

面试问答 更新时间: 发布时间: IT归档 最新发布 模块sitemap 名妆网 法律咨询 聚返吧 英语巴士网 伯小乐 网商动力

在Python中打开没有换行符的大型JSON文件以进行csv转换Python 2.6.6

为了处理文件,我最后使用了8388608(十六进制0x800000)的块大小。然后,我处理了循环中已读取的行,并保留了已处理行数和已丢弃行数。在每个处理功能中,我将数字添加到总数中,以便可以跟踪已处理的记录总数。

这似乎是它需要走的路。

下次问类似这样的问题时,请强调必须指定较大的块大小,而不是原始答案中所示的2048。

循环去

first = Truefor data in self.json_parse(inf):  records = len(data['MainKey'])  columns = len(data['MainKey'][0]['Fields'])  if first:    # Initialize output as DictWriter    ofile, outf, fields = self.init_csv(csvname, data, records, columns)    first = False  reccount, errcount = self.parse_records(outf, data, fields, records)

在解析例程中

for rec in range(records):  currec = data['MainKey'][rec]  # If each column count can be different  columns = len(currec['Fields'])  retval, valrec = self.build_csv_row(currec, columns, fields)

要解析列,请使用

for col in columns:  dataname = currec['Fields'][col]['name']  dataval = currec['Fields'][col]['Values']['value']

因此,参考现在可以正常工作,并且处理已正确处理。大块显然允许处理足够快以处理数据,同时又足够小而不会使系统过载。



转载请注明:文章转载自 www.mshxw.com
本文地址:https://www.mshxw.com/it/469321.html
我们一直用心在做
关于我们 文章归档 网站地图 联系我们

版权所有 (c)2021-2022 MSHXW.COM

ICP备案号:晋ICP备2021003244-6号