栏目分类:
子分类:
返回
名师互学网用户登录
快速导航关闭
当前搜索
当前分类
子分类
实用工具
热门搜索
名师互学网 > IT > 面试经验 > 面试问答

我应该创建管道来保存草率文件吗?

面试问答 更新时间: 发布时间: IT归档 最新发布 模块sitemap 名妆网 法律咨询 聚返吧 英语巴士网 伯小乐 网商动力

我应该创建管道来保存草率文件吗?

是和否[1]。如果您获取一个pdf文件,它将被存储在内存中,但是如果pdf文件的大小不足以填满您的可用内存,那就可以了。

您可以将PDF保存在Spider回调中:

def parse_listing(self, response):    # ... extract pdf urls    for url in pdf_urls:        yield Request(url, callback=self.save_pdf)def save_pdf(self, response):    path = self.get_path(response.url)    with open(path, "wb") as f:        f.write(response.body)

如果选择在管道中执行此操作:

# in the spiderdef parse_pdf(self, response):    i = MyItem()    i['body'] = response.body    i['url'] = response.url    # you can add more metadata to the item    return i# in your pipelinedef process_item(self, item, spider):    path = self.get_path(item['url'])    with open(path, "wb") as f:        f.write(item['body'])    # remove body and add path as reference    del item['body']    item['path'] = path    # let item be processed by other pipelines. ie. db store    return item

[1]另一种方法可能是仅存储pdf的url,并使用另一种方法来获取文档而不会缓冲到内存中。(例如

wget



转载请注明:文章转载自 www.mshxw.com
本文地址:https://www.mshxw.com/it/625286.html
我们一直用心在做
关于我们 文章归档 网站地图 联系我们

版权所有 (c)2021-2022 MSHXW.COM

ICP备案号:晋ICP备2021003244-6号