栏目分类:
子分类:
返回
名师互学网用户登录
快速导航关闭
当前搜索
当前分类
子分类
实用工具
热门搜索
名师互学网 > IT > 软件开发 > 后端开发 > Python

解决爬虫时遇到标题特殊编码导致存入为空的问题

Python 更新时间: 发布时间: IT归档 最新发布 模块sitemap 名妆网 法律咨询 聚返吧 英语巴士网 伯小乐 网商动力

解决爬虫时遇到标题特殊编码导致存入为空的问题

前言:
今天写爬虫的时候报了特殊编码的错,像b‘xd8’(这个印象最深)

>>> 'xd8'
'Ø'

标题中的0用了Ø来表示,导致控制台报错,并且存入题目为空字符串。
解决办法如下:

import chardet
for index, font in enumerate(title):
     try:
         font_encoding = chardet.detect(font)['encoding']
     except TypeError:
         continue
     else:
         title[index] = font.decode(font_encoding)

detect函数会返回字节的编码类型,如果使用字符串类型会报TypeError的错

>>> chardet.detect(b'xd8')
{'encoding': 'ISO-8859-1', 'confidence': 0.73, 'language': ''}

>>> chardet.detect('xd8')
Traceback (most recent call last):
  File "", line 1, in 
  File "C:UserstopsecAppDataRoamingPythonPython39site-packageschardet__init__.py", line 36, in detect
    raise TypeError('Expected object of type bytes or bytearray, got: '
TypeError: Expected object of type bytes or bytearray, got: 
转载请注明:文章转载自 www.mshxw.com
本文地址:https://www.mshxw.com/it/268935.html
我们一直用心在做
关于我们 文章归档 网站地图 联系我们

版权所有 (c)2021-2022 MSHXW.COM

ICP备案号:晋ICP备2021003244-6号