栏目分类:
子分类:
返回
名师互学网用户登录
快速导航关闭
当前搜索
当前分类
子分类
实用工具
热门搜索
名师互学网 > IT > 软件开发 > 后端开发 > Python

python爬虫如何定时获取网页数据?

Python 更新时间: 发布时间: IT归档 最新发布 模块sitemap 名妆网 法律咨询 聚返吧 英语巴士网 伯小乐 网商动力

python爬虫如何定时获取网页数据?

每天都在更新文章的小编,也有固定的人数前来阅读文章了。有些小伙伴想要定时的查看小编所写的文章,有没有什么简便的方法呢?我们在python中,有三种方法可以实现定时操作,今天小编就教大家其中的一个:time函数。这个函数也是我们的老伙伴的,作为基础知识点,大家都不陌生,那么具体结合python爬虫如何实现定时呢?

在代码方面,我们用time函数表明想要查取的时间间隔和截止时间就可以了。

#!/usr/bin/python3
# -*- coding: utf-8 -*-
import requests
from  bs4 import BeautifulSoup
import time
from datetime import datetime
#请求数据

def get_data():
    #Headers 里面大小写均可
    url = ''
    headers={'Users-Agent':"Mozilla/5.0(X11;Ubuntu;Linux )x86_64;rv:52.0)Gecko/20100101 Firefox/52.0"}
    data=requests.get(url,headers=headers)
    # print(data.text)
    #解析数据
    soup=BeautifulSoup(data.text,'html.parser')
    print(datetime.now(),soup)
    return soup
if __name__ == '__main__':
    get_data()

while True:
    if datetime.now() < datetime(2018, 9,8, 23, 59, 59):  # 查询截止时间为2018-9-8 23:59:59
        get_data()
        time.sleep(600)  # 每隔一个小时查询一次
    else:
        print("已到截止时间,停止取数。")
        break

如果还是其他想要规定的数据,小伙伴们也可以扩充一下代码的功能。相信有了这项定时功能,想要文章的小伙伴就不会错过啦~更多Python学习指路:PyThon学习网教学中心。

转载请注明:文章转载自 www.mshxw.com
本文地址:https://www.mshxw.com/it/11720.html
我们一直用心在做
关于我们 文章归档 网站地图 联系我们

版权所有 (c)2021-2022 MSHXW.COM

ICP备案号:晋ICP备2021003244-6号