栏目分类:
子分类:
返回
名师互学网用户登录
快速导航关闭
当前搜索
当前分类
子分类
实用工具
热门搜索
名师互学网 > IT > 软件开发 > 后端开发 > Python

如何使用chrome分析目标网站

Python 更新时间: 发布时间: IT归档 最新发布 模块sitemap 名妆网 法律咨询 聚返吧 英语巴士网 伯小乐 网商动力

如何使用chrome分析目标网站

引言
日常我们在浏览器中看到的网页都是很漂亮很规整的如图1,但我们爬取到的网页源代码却是一个很繁杂的文件如图2,想要精准找到我们需要提前的信息,首先需要借助浏览器,对目标网站进行分析。接下来我将分析365淘房网为例,对该过程进行详细的介绍。

image

图1 网页展示

image

图2 网页对应源代码

利用chrome浏览器分析365淘房网租房页面的流程如下:

1、打开浏览器,进入目标网站

目标站点为:http://nj.rent.house365.com/district/dl_j3-kw%E5%A4%A9%E9%9A%86%E5%AF%BA%E5%9C%B0%E9%93%81%E7%AB%99.html

image

2、“检查”目标站点

在网页中右键点击检查,或者F12快捷键(可能是Fn+F12),进入如下图的查看元素页面,你开始打开后解析部分可能位于页面右侧,下图红框标注的地方可以修改,其中Elements显示的便是网页的源代码,另一个很重要的部分是Network,在以后的分享中会详细介绍。

image

3、利用chrome查找需要提取信息的位置
接下来首先点击下图中红色方框选中的按钮,然后当你的鼠标停留在网页中的某个内容上时,Elements中会定位到该内容在源代码中的位置,如下图所示,我们知道需要提取的内容其位置及结构后便能用正则表达式或其他解析库提取信息啦。不过在开始提取信息前我们还要做一个检查。

image

4、检查的详细步骤
检查时要做的是如图所示分为8步,第一点击Network,第二勾选Preserve log,第三点击Doc,第四点击清理按钮,第五刷新页面,第六点击网址链接,第七选中Response。第八步需要检查在Response中,能否搜索到你想要的的信息,用Ctrl+F快捷键搜索。如果能搜索到便可以开始编写我们的爬虫啦。如果搜索不到,可能你需要爬取的信息是JS动态加载的,爬取它需要采用模拟浏览器的方式,这样的情况咱们后面再讨论。

image

image

5、小结
本文章主要介绍了如何利用chrome浏览器帮助我们解析目标站点,主要利用chrome的检查功能,分析网页结构,定位网页内容。检查网页为静态还是为JS动态生成的。检查步骤可分为8步,第一点击Network,第二勾选Preserve log,第三点击Doc,第四点击清理按钮,第五刷新页面,第六点击网址链接,第七选中Response。第八步在Response中,搜索你想要爬取的的信息,用Ctrl+F快捷键搜索,如果能搜索到便可以开始编写我们的爬虫。


作者:哈希大数据
链接:https://www.jianshu.com/p/e485c95fc629


转载请注明:文章转载自 www.mshxw.com
本文地址:https://www.mshxw.com/it/223318.html
我们一直用心在做
关于我们 文章归档 网站地图 联系我们

版权所有 (c)2021-2022 MSHXW.COM

ICP备案号:晋ICP备2021003244-6号