栏目分类:
子分类:
返回
名师互学网用户登录
快速导航关闭
当前搜索
当前分类
子分类
实用工具
热门搜索
名师互学网 > IT > 软件开发 > 后端开发 > Python

大众点评详情页电话的反爬对策

Python 更新时间: 发布时间: IT归档 最新发布 模块sitemap 名妆网 法律咨询 聚返吧 英语巴士网 伯小乐 网商动力

大众点评详情页电话的反爬对策


两天前大众点评详情页的电话一栏还是以明文数字的形式渲染到的html页面上,爬取也很简单,这里我用的是requests库和pyquery库对页面进行爬取和分析

import requestsfrom pyquery import PyQuery as pq

res = requests.get(theurl,headers=headers)
pqPrice = pq(res.text)
phone = pqPrice('#basic-info')('.expand-info.tel').text()

但是今天重新爬取时发现大众点评修改了策略

不使用明文号码,而是将每个数字变成span用样式显示成原来的数字,通过对比发现,1依旧使用明文,其他每个样式对应的数字如下,

num = {    'fn-Xgcz': 0,    'fn-OeNo': 2,    'fn-dykL': 3,    'fn-uRoy': 4,    'fn-UQqq': 5,    'fn-eKMG': 6,    'fn-dyBl': 7,    'fn-JaiW': 8,    'fn-vbpK': 9
}

这样我们再多一步对比替换就可以重新获取到详情页中的电话

res = requests.get(theurl, headers=headers)
pqPrice = pq(res.text)
phone = str(pqPrice('#basic-info')('.expand-info.tel'))

a = phone.replace('   1', '')
b = a.replace('1', '')
c = pq(b)
tel = c('span').items()
number = ''for i in tel:
  attr = i.attr('class')  if attr in num:
    attr = num[attr]
  number += str(attr)print(number)

最后得到的number就是原来的电话号码



作者:raphah
链接:https://www.jianshu.com/p/ba4d8da1c6b2


转载请注明:文章转载自 www.mshxw.com
本文地址:https://www.mshxw.com/it/222292.html
我们一直用心在做
关于我们 文章归档 网站地图 联系我们

版权所有 (c)2021-2022 MSHXW.COM

ICP备案号:晋ICP备2021003244-6号