栏目分类:
子分类:
返回
名师互学网用户登录
快速导航关闭
当前搜索
当前分类
子分类
实用工具
热门搜索
名师互学网 > IT > 软件开发 > 后端开发 > Python

Python爬虫html转markdown

Python 更新时间: 发布时间: IT归档 最新发布 模块sitemap 名妆网 法律咨询 聚返吧 英语巴士网 伯小乐 网商动力

Python爬虫html转markdown

Python爬虫html转markdown 说明

动态博客转静态博客(例如typecho转hexo),在上传静态博客文章时往往需要md文件

通过这个程序我我们可以很方便地以爬虫的方式获取markdown文档

代码

下面给出代码框架,根据需要进行修改即可运行

import requests
from bs4 import BeautifulSoup
import html2text as ht

url = '' #此处写你要爬虫的url

#爬虫
res = requests.get(url)
data = res.content
cont = BeautifulSoup(data, 'html.parser')
#获取包含文章内容的标签 attrs后跟的是最外层标签属性,根据爬取网站的实际情况进行修改
data = cont.find('div',attrs={'id':'post'}).text

#对上述字符串data进行处理,去除不能转换成markdown的标签,比如div等
#该部分代码根据需要自行添加,此处不给出

#转换
text_maker = ht.HTML2Text()
text_maker.bypass_tables = False
text = text_maker.handle(data)

#对获取的md格式的文本进行操作,比如写入到一个文件中,此处作为演示直接输出
print(text)



转载请注明:文章转载自 www.mshxw.com
本文地址:https://www.mshxw.com/it/853616.html
我们一直用心在做
关于我们 文章归档 网站地图 联系我们

版权所有 (c)2021-2022 MSHXW.COM

ICP备案号:晋ICP备2021003244-6号