爬虫爬取信息（python））

先来爬点简单的，然后再爬其他的东西

• 1，实验工具
• 2，爬取网站
• • 1，先打开要爬的学校网站
  • 2，代码
• 3，爬取学校官网的信息通知
• • 1，查看网站
  • 2，代码
• 4，总结
• 5，参考

anaconda

话不多说，直接上干货

我爬的是http://www.51mxd.cn/problemset.php-page=1.htm。然后查看页面源代码，可以要看到我们要爬取的信息都在TD这个标签内
可以看到，我们要的东西就在这个TD里面，我们要做的就是把他们弄出来

导入包

#导入包
import requests
from bs4 import BeautifulSoup
import csv
from tqdm import tqdm#在电脑终端上显示进度，使代码可视化进度加快

定义访问浏览器所需的请求头和写入csv文件需要的表头以及存放题目数据的列表

# 模拟浏览器访问
Headers = 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/70.0.3538.25 Safari/537.36 Core/1.70.3741.400 QQBrowser/10.5.3863.400'
# 题目数据
subjects = []
# 表头
csvHeaders = ['题号', '难度', '标题', '通过率', '通过数/总提交数']

定义爬取函数

for pages in tqdm(range(1, 11 + 1)):

    r = requests.get(f'http://www.51mxd.cn/problemset.php-page={pages}.htm', Headers)

    r.raise_for_status()

    r.encoding = 'utf-8'

    soup = BeautifulSoup(r.text, 'html5lib')

    td = soup.find_all('td')#讲所有含TD的项提取出来
    subject = []
    for t in td:
        if t.string is not None:
            #利用string方法获取其中的内容
            subject.append(t.string)
            if len(subject) == 5:
                subjects.append(subject)
                subject = []

写入文件

with open('..\source\nylgoj.csv', 'w', newline='') as file:
    fileWriter = csv.writer(file)
    fileWriter.writerow(csvHeaders)
    fileWriter.writerows(subjects)

print('n题目信息爬取完成！！！')

要是爬取成功会得到这样的结果
看csv里面的东西，可以看到我们已经爬了下来

老规矩，先看网站，我的是http://news.cqjtu.edu.cn/xxtz.htm，这次要看的信息是全部通知发出的时间和通知的标题

导入上面的包
对要用的数据进行定义

# 模拟浏览器访问
cqjtu_Headers ={ 
    'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/95.0.4638.69 Safari/537.36 Edg/95.0.1020.44'
}
#csv的表头
cqjtu_head=["日期","标题"]
#存放内容
cqjtu_infomation=[]

获取页数

def get_page_number():
    r=requests.get(f"http://news.cqjtu.edu.cn/xxtz.htm",headers=cqjtu_Headers)
    r.raise_for_status()
    r.encoding="utf-8"
    page_array={
    'type':'text/javascript'
    }
    soup = BeautifulSoup(r.text, 'html5lib')
    page_num=soup.find_all('script',page_array)
    page_number=page_num[4].string#只靠标签这些定位好像不是唯一，只能手动定位了
    page_number=page_number.strip('function a204111_gopage_fun(){_simple_list_gotopage_fun(')#删掉除页数以外的其他内容
    page_number=page_number.strip(','a204111GOPAGE',2)}')
    page_number=int(page_number)#转为数字
    return page_number

对页面进行爬取的函数

def get_time_and_title(page_num,cqjtu_Headers):#页数，请求头
    if page_num==66 :
        url='http://news.cqjtu.edu.cn/xxtz.htm'
    else :
        url=f'http://news.cqjtu.edu.cn/xxtz/{page_num}.htm'
    r=requests.get(url,headers=cqjtu_Headers)
    r.raise_for_status()
    r.encoding="utf-8"
    array={#根据class来选择
        'class':'time',
        }
    title_array={
     'target':'_blank'
    }
    page_array={
    'type':'text/javascript'
    }
    soup = BeautifulSoup(r.text, 'html5lib')
    time=soup.find_all('div',array)
    title=soup.find_all('a',title_array)
    temp=[]
    for i in range(0,len(time)):
        time_s=time[i].string
        time_s=time_s.strip('n                                    ')
        time_s=time_s.strip('n                                ')
        #清除空格
        temp.append(time_s)
        temp.append(title[i+1].string)
        cqjtu_infomation.append(temp)
        temp=[]

写入文件的函数

def write_csv(cqjtu_info):
    with open('..\source\cqjtu.csv', 'w', newline='',encoding='utf-8') as file:
        fileWriter = csv.writer(file)
        fileWriter.writerow(cqjtu_head)
        fileWriter.writerows(cqjtu_info)
        print('爬取信息成功')

调用函数

page_num=get_page_number()#获得页数
for i in tqdm(range(page_num,0,-1)):
    get_time_and_title(i,cqjtu_Headers)
write_csv(cqjtu_infomation)

爬取成功后
这时，可以打开CSV文件查看一下结果
成功将所有信息全部爬取下来

爬取静态网页还是比较简单的，只需要找到自己需要爬取的消息在哪里就可以了

静态网页的爬虫