栏目分类:
子分类:
返回
名师互学网用户登录
快速导航关闭
当前搜索
当前分类
子分类
实用工具
热门搜索
名师互学网 > IT > 软件开发 > 后端开发 > Python

selenium最简单使用—完美解决爬取js动态加载的源码

Python 更新时间: 发布时间: IT归档 最新发布 模块sitemap 名妆网 法律咨询 聚返吧 英语巴士网 伯小乐 网商动力

selenium最简单使用—完美解决爬取js动态加载的源码

问题背景

有些网站是将数据存储到后台数据库的,用户访问网页时,会用js代码动态加载后台数据库里的内容到网页源码里。这时如果只是用requests.get是拿不到这些动态数据。为了拿到这些动态数据,可以用selenium这个python模块解决。selenium可以实现网页的模拟获取和模拟点击,从而拿到动态数据。

配置环境

安装python包

pip install selenium

下载chrome驱动

https://chromedriver.chromium.org/downloads
代码demo

以模拟在百度里搜索hello为例

from selenium import webdriver
from selenium.webdriver.common.by import By

url = "http://www.baidu.com"
browser = webdriver.Chrome('chromedriver')
browser.get(url)
browser.find_element(By.ID, 'kw').send_keys("hello")
browser.find_element(By.ID, 'su').click()
browser.page_source

ip代理

https://www.zdaye.com/beijing_ip.html
https://www.kuaidaili.com/dps
转载请注明:文章转载自 www.mshxw.com
本文地址:https://www.mshxw.com/it/861220.html
我们一直用心在做
关于我们 文章归档 网站地图 联系我们

版权所有 (c)2021-2022 MSHXW.COM

ICP备案号:晋ICP备2021003244-6号