栏目分类:
子分类:
返回
名师互学网用户登录
快速导航关闭
当前搜索
当前分类
子分类
实用工具
热门搜索
名师互学网 > IT > 软件开发 > 后端开发 > Python

pyhton爬虫之 Requests库 get请求

Python 更新时间: 发布时间: IT归档 最新发布 模块sitemap 名妆网 法律咨询 聚返吧 英语巴士网 伯小乐 网商动力

pyhton爬虫之 Requests库 get请求

发送请求获取响应库

安装

pip install requests

Request是请求,在浏览器输入地址,就是一个请求

最简单的发送get请求就是通过requests.get来调用,添加参数和headers

response = requests.get(url,params=kw,headers=headers,timeout=3)

# 请求的地址 url
# 接收关键字 params
# 代理 proxies
# 请求头 headers
# 超时设置 timeout

请求头参数:

  • Host (主机和端口号)

  • Connection (链接类型)

  • Upgrade-Insecure-Requests (升级为HTTPS请求)

  • User-Agent (操作系统版本,浏览器名称版本等信息)

  • Referer (页面跳转处)

  • Cookie (Cookie)

这里简单get请求一下baidu首页

import requests
#导入模块

url = 'https://www.baidu.com'
#请求的地址

headers={
'User-Agent': 'User-Agent: Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/98.0.4758.102 Safari/537.36'
}
#请求头

#发送 Get请求
response = requests.get(url,headers=headers)

#查看响应内容,response.text 返回的是Unicode格式的数据
print(response.text)

#查看响应内容,response.content返回的字节流数据,会存在乱码,所以可以指定解码类型 decode('utf-8'),decode('gbk')
#print(response.content) 中文显示错误
print(response.content.decode('utf-8'))

#获取完整的网页地址
response.url

#查看响应头部字符编码
response.encoding

#查看响应码
response.status_code

#查看响应头
response.headers

#查看请求头中的cookie
response.request._cookies

#查看响应头中的cookie
response.cookies

转载请注明:文章转载自 www.mshxw.com
本文地址:https://www.mshxw.com/it/926350.html
我们一直用心在做
关于我们 文章归档 网站地图 联系我们

版权所有 (c)2021-2022 MSHXW.COM

ICP备案号:晋ICP备2021003244-6号