栏目分类:
子分类:
返回
名师互学网用户登录
快速导航关闭
当前搜索
当前分类
子分类
实用工具
热门搜索
名师互学网 > IT > 软件开发 > 后端开发 > Python

Python爬虫编程思想(149):使用Scrapy抓取数据,并通过XPath指定解析规则

Python 更新时间: 发布时间: IT归档 最新发布 模块sitemap 名妆网 法律咨询 聚返吧 英语巴士网 伯小乐 网商动力

Python爬虫编程思想(149):使用Scrapy抓取数据,并通过XPath指定解析规则

        本文的案例会在parse方法中通过response参数设置XPath,然后从HTML代码中过滤出我们感兴趣的信息,最后将这些信息输出到PyCharm的Console中。

       下面的例子通过XPath过滤出指定页面的博文列表,并利用Beautiful Soup对博文的相关信息进一步过滤,最后在Console中输出博文标题等信息。

import scrapy
from bs4 import *
class BlogSpider(scrapy.Spider):
    name = 'BlogSpider'
    start_urls = [
        'https://geekori.com/blogsCenter.php?uid=geekori'
        ]
def parse(self,response):
    # 过滤出指定页面所有的博文
        sectionList = response.xpath('//*[@id="all"]/div[1]/section').extract()
        # 对博文列表进行迭代
        for section in sectionList:
            # 利用BeautifulSoup对每一篇博文的相关信息进行过滤
            bs = BeautifulSoup(section,'lxml')
            articleDict = {}
a = bs.find('a')
# 获取博文标题
转载请注明:文章转载自 www.mshxw.com
本文地址:https://www.mshxw.com/it/969097.html
我们一直用心在做
关于我们 文章归档 网站地图 联系我们

版权所有 (c)2021-2022 MSHXW.COM

ICP备案号:晋ICP备2021003244-6号