requests模块的cookie处理
#编码流程：
#1.验证码的识别，获取验证码图片的文字数据
#2.对post请求进行发送（处理请求参数）
#3.对响应数据进行持久化存储
from CodeClass import YDMHttp #云打码类的使用(先复制然后创建一个文件保存 再调用)
import requests
from lxml import etree
#封装识别验证码图片的函数
def getCodeText(imgPath,codeType):
# 普通用户用户名
username = 'bobo328410948'
# 普通用户密码
password = 'bobo328410948'
# 软件ＩＤ，开发者分成必要参数。登录开发者后台【我的软件】获得！
appid = 6003
# 软件密钥，开发者分成必要参数。登录开发者后台【我的软件】获得！
appkey = '1f4b564483ae5c907a1d34f8e2f2776c'
# 图片文件：即将被识别的验证码图片的路径
filename = imgPath
# 验证码类型，# 例：1004表示4位字母数字，不同类型收费不同。请准确填写，否则影响识别率。在此查询所有类型 http://www.yundama.com/price.html
codetype = codeType
# 超时时间，秒
timeout = 20
result = None
# 检查
if (username == 'username'):
print('请设置好相关参数再测试')
else:
# 初始化
yundama = YDMHttp(username, password, appid, appkey)
# 登陆云打码
uid = yundama.login();
print('uid: %s' % uid)
# 查询余额
balance = yundama.balance();
print('balance: %s' % balance)
# 开始识别，图片路径，验证码类型ID，超时时间（秒），识别结果
cid, result = yundama.decode(filename, codetype, timeout);
print('cid: %s, result: %s' % (cid, result))
return result
#创建一个session对象
session = requests.Session() ##session = requests.Session() ???
#1.对验证码图片进行捕获和识别
headers = {
'User-Agent': 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_12_0) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/72.0.3626.121 Safari/537.36'
}
url = 'http://www.renren.com/SysHome.do'
page_text = requests.get(url=url,headers=headers).text
tree = etree.HTML(page_text)
code_img_src = tree.xpath('//*[@id="verifyPic_login"]/@src')[0]
code_img_data = requests.get(url=code_img_src,headers=headers).content
with open('./code.jpg','wb') as fp:
fp.write(code_img_data)
#使用云打码提供的示例代码对验证码图片进行识别
result = getCodeText('code.jpg',1000)
#post请求的发送（模拟登录）???
login_url = 'http://www.renren.com/ajaxLogin/login?1=1&uniqueTimestamp=2019431046983'
data = {
'email': 'www.zhangbowudi@qq.com',
'icode': result,
'origURL': 'http://www.renren.com/home',
'domain': 'renren.com',
'key_id': '1',
'captcha_type': 'web_login',
'password': '06768edabba49f5f6b762240b311ae5bfa4bcce70627231dd1f08b9c7c6f4375',
'rkey': '3d1f9abdaae1f018a49d38069fe743c8',
'f':'',
}
#使用session进行post请求的发送???
response = session.post(url=login_url,headers=headers,data=data)
print(response.status_code)
#爬取当前用户的个人主页对应的页面数据
detail_url = 'http://www.renren.com/289676607/profile'
#手动cookie处理(不建议:麻烦;通用性不强)
# headers = {
# 'Cookie':'xxxx'
# }
#使用携带cookie的session进行get请求的发送
detail_page_text = session.get(url=detail_url,headers=headers).text
with open('bobo.html','w',encoding='utf-8') as fp:
fp.write(detail_page_text)
需求:基于人人网模拟登陆获取个人主页对应的页面数据
http/https协议特性:无状态
没有请求到对应个人主页页面数据的原因:发起的第二次基于页面请求的时候,服务器端不知道该次请求是基于登陆状态下的请求.
cookie:用来让服务器端记录客户端的相关状态.
----手动处理:通过抓包工具获取cookie值,将该值封装到headers中(不建议)
----自动处理:
- cookie值来源:模拟登陆post请求后,由服务器端创建的.
- session会话对象:
- --作用:1,可以进行请求的发送
- 2,如果请求过程中产生了cookie,则该cookie会被自动存储/携带在该session中
--创建一个session对象:requests.Session()
--使用session进行模拟登陆post请求上午发送(cooki会被存储在session中)
--session对象对个人主页对应的get请求进行发送(携带cookie)
浏览器端向服务器端发送请求,请求的过程中携带的请求头,请求之后,cookie值会发送给服务器端,接收之后通过对cookie值的判定用来获知,这次请求是基于登陆状态下的请求,服务器端就会响应回客户端对应的相关的用户界面数据
peofile是跳转的页面,可以看网页有无变化
