Python学习笔记爬虫系列
Python 爬虫学习笔记(一) 基础命令使用-
定义一个url。
例如 url = ‘http://www.baidu.com’。这是需要访问的网站地址。 -
模拟浏览器向服务器发送请求,返回数据类型是HTTPResponse。
response = urllib.request.urlopen(url),使用此命令需要先导入request库。 -
获取响应中的页面的源码
content = response.read().decode(‘utf-8’),
因为read方法,返回的是字节形式的二进制数据,要将二进制的数据转换为字符,使用解码 decode(charset:编码格式)。
-
按照一个字节一个字节的去读
content = response.read()也可以指定读多少个字节
例如读5个字节,content = response.read(5) -
按行读,且只能读一行
content = response.readline() -
可以读很多行
content = response.readlines() -
返回状态码,如果是200,就证明逻辑没有错
response.getcode() -
返回url地址
response.geturl() -
获取一些状态信息
response.getheaders()
-
下载网页,以百度为例。url代表下载路径,filename代表文件名字。
urllib.request.urlretrieve(url, ‘baidu.html’) -
下载图片,url代表下载路径,filename代表文件名字。
urllib.request.urlretrieve(url, filename=‘image.jpg’) -
下载视频, url代表下载路径,filename代表文件名字。
urllib.request.urlretrieve(url, ‘veido.mp4’)



