XPath表达式
XPath 全称XML Path Language 即XML路劲语言,是一门在xml文档中查找数据信息的语言。最初是用来搜寻XML文档的,但同样适用于HTML文档,所以在做爬虫的时候完全可由XPath提取信息。
1. lxml模块安装lxml是一个HTML/XML的解析器,主要的功能是如何解析和提取HTML/XML数据。
lxml和正则一样,也是用C实现的,是一款高性能的解析器,不过在Python中属于是第三方模块,需要进行安装。 pip install lxml
2. 获取特殊的HTMLfrom lxml import etree # 从lxml中导入etree模块 text = '''
- 这是一个li标签
- 小张
- 小王
- 小王
- 这是一个li标签
- 小张
- 小王
- 小王
from lxml import etree
html = etree.parse("./test.html", etree.HTMLParser())
result = etree.tostring(html, encoding="utf-8").decode()
# print(result)
value_html = html.xpath("//div")
#print(value_html)
print(type(value_html))
print(value_html[0])
print(value_html[0].text)
value_html = html.xpath("//div//p")
print(value_html[0])
print(value_html[0].text)
value_html = html.xpath("//div/span[@class='span01']")
print(value_html[0])
print(value_html[0].text)
value_html = html.xpath("//div/span/@class")
print(value_html)
value_html = html.xpath("//a/@href")
print(value_html)
注:源自51CTO课堂 Python网络爬虫



