栏目分类:
子分类:
返回
名师互学网用户登录
快速导航关闭
当前搜索
当前分类
子分类
实用工具
热门搜索
名师互学网 > IT > 软件开发 > 后端开发 > Python

2021-10-08

Python 更新时间: 发布时间: IT归档 最新发布 模块sitemap 名妆网 法律咨询 聚返吧 英语巴士网 伯小乐 网商动力

2021-10-08

Python学习笔记爬虫系列

Python 爬虫学习笔记(一) 基础命令使用
  1. 定义一个url。
    例如 url = ‘http://www.baidu.com’。这是需要访问的网站地址。

  2. 模拟浏览器向服务器发送请求,返回数据类型是HTTPResponse。
    response = urllib.request.urlopen(url),使用此命令需要先导入request库。

  3. 获取响应中的页面的源码
    content = response.read().decode(‘utf-8’),
    因为read方法,返回的是字节形式的二进制数据,要将二进制的数据转换为字符,使用解码 decode(charset:编码格式)。

六个方法
  1. 按照一个字节一个字节的去读
    content = response.read()

    也可以指定读多少个字节
    例如读5个字节,content = response.read(5)

  2. 按行读,且只能读一行
    content = response.readline()

  3. 可以读很多行
    content = response.readlines()

  4. 返回状态码,如果是200,就证明逻辑没有错
    response.getcode()

  5. 返回url地址
    response.geturl()

  6. 获取一些状态信息
    response.getheaders()

下载网页、图片和视频
  1. 下载网页,以百度为例。url代表下载路径,filename代表文件名字。
    urllib.request.urlretrieve(url, ‘baidu.html’)

  2. 下载图片,url代表下载路径,filename代表文件名字。
    urllib.request.urlretrieve(url, filename=‘image.jpg’)

  3. 下载视频, url代表下载路径,filename代表文件名字。
    urllib.request.urlretrieve(url, ‘veido.mp4’)

转载请注明:文章转载自 www.mshxw.com
本文地址:https://www.mshxw.com/it/308076.html
我们一直用心在做
关于我们 文章归档 网站地图 联系我们

版权所有 (c)2021-2022 MSHXW.COM

ICP备案号:晋ICP备2021003244-6号