栏目分类:
子分类:
返回
名师互学网用户登录
快速导航关闭
当前搜索
当前分类
子分类
实用工具
热门搜索
名师互学网 > IT > 软件开发 > 后端开发 > Python

python爬虫需要安装什么

Python 更新时间: 发布时间: IT归档 最新发布 模块sitemap 名妆网 法律咨询 聚返吧 英语巴士网 伯小乐 网商动力

python爬虫需要安装什么

世界上80%的爬虫是基于Python开发的,学好爬虫技能,可为后续的大数据分析、挖掘、机器学习等提供重要的数据源。

python爬虫需要安装相关库:

python爬虫涉及的库:

请求库,解析库,存储库,工具库

1. 请求库:urllib/re/requests

(1) urllib/re是python默认自带的库,可以通过以下命令进行验证:

没有报错信息输出,说明环境正常

(2) requests安装

2.1 打开CMD,输入

pip3 install requests

2.2 等待安装后,验证

(3) selenium安装(驱动浏览器进行网站访问行为)

3.1 打开CMD,输入

pip3 install selenium

3.2 安装chromedriver

网址:https://npm.taobao.org/

把下载完成后的压缩包解压,把exe放到D:Python3.6.0Scripts

这个路径只要在PATH变量中就可以

3.3 等待安装完成后,验证

回车后弹出chrome浏览器界面

3.4 安装其他浏览器

无界面浏览器phantomjs

下载网址:http://phantomjs.org/

下载完成后解压,把整个目录放到D:Python3.6.0Scripts,把bin目录的路径添加到PATH变量

验证:

打开CMD

phantomjs
console.log('phantomjs')

CTRL+C

python
from selenium import webdriver
driver = webdriver.PhantomJS()
dirver.get('http://www.baidu.com')
driver.page_source

2. 解析库:

2.1 lxml (XPATH)

打开CMD

pip3 install lxml

或者从https://pypi.python.org下载,例如,lxml-4.1.1-cp36-cp36m-win_amd64.whl (md5) ,先下载whl文件

pip3 install 文件名.whl

2.2 beautifulsoup

打开CMD,需要先安装好lxml

pip3 install beautifulsoup4

验证

python
from bs4 import BeautifulSoup
soup = BeautifulSoup('','lxml')

2.3 pyquery(类似jquery语法)

打开CMD

pip3 install pyquery

验证安装结果

python
from pyquery import PyQuery as pq
doc = pq('hi')
result = doc('html').text()
result

3. 存储库

3.1 pymysql(操作MySQL,关系型数据库)

安装:

pip3 install pymysql

安装后测试:

3.2 pymongo(操作MongoDB,key-value)

安装

pip3 install pymongo

验证

python
import pymongo
client = pymongo.MongoClient('localhost')
db = client['testdb']
db['table'].insert({'name':'bob'})
db['table'].find_one({'name':'bob'})

3.3 redis(分布式爬虫,维护爬取队列)

安装:

pip3 install redis

验证:

4.工具库

4.1 flask(WEB库)

pip3 install flask

4.2 Django(分布式爬虫维护系统)

pip3 install django

4.3 jupyter(运行在网页端的记事本,支持markdown,可以在网页上运行代码)

pip3 install jupyter

验证:

打开CMD

jupyter notebook

之后就可以在网页直接创建记事本,代码块和Markdown块,支持打印

【相关推荐】

1. python爬虫库以及相关利器

2. python爬虫入门教程

以上就是python爬虫需要安装什么的详细内容,更多请关注考高分网其它

转载请注明:文章转载自 www.mshxw.com
本文地址:https://www.mshxw.com/it/805600.html
我们一直用心在做
关于我们 文章归档 网站地图 联系我们

版权所有 (c)2021-2022 MSHXW.COM

ICP备案号:晋ICP备2021003244-6号