栏目分类:
子分类:
返回
名师互学网用户登录
快速导航关闭
当前搜索
当前分类
子分类
实用工具
热门搜索
名师互学网 > IT > 软件开发 > 后端开发 > Python

Python爬虫识别中文字符和标点符号

Python 更新时间: 发布时间: IT归档 最新发布 模块sitemap 名妆网 法律咨询 聚返吧 英语巴士网 伯小乐 网商动力

Python爬虫识别中文字符和标点符号

Python爬虫识别中文字符和标点符号,并且保存成txt文档

import requests

href_list = final_df["隐私政策"].values
names = final_df["公司名称"].values

for i in range(len(href_list)):
    url = href_list[i]
    if url:
        try:
            res = requests.get(url).text
        except:
            print("失败:",url)
            continue
        try:
            res = res.encode("ISO-8859-1").decode("utf-8")
        except:
            try:
                res = res.encode("ISO-8859-1").decode("gbk")
            except:
                res = res
        res = re.sub("<.*?>", "", res)
        res = re.sub("{.*?}", "", res)
        res = res.replace('n', '') 
        
        # 提取文字和标点符号!!!!!!!!!!!!!
        pattern = re.compile(u'[u4e00-u9fa5-,。]')
        result = pattern.findall(res)
        
        # 保存到txt文档中
        file = open("data/隐私政策/{}.txt".format(names[i]), 'w')
        string = "".join(result)
        file.write(string)
转载请注明:文章转载自 www.mshxw.com
本文地址:https://www.mshxw.com/it/1002146.html
我们一直用心在做
关于我们 文章归档 网站地图 联系我们

版权所有 (c)2021-2022 MSHXW.COM

ICP备案号:晋ICP备2021003244-6号