栏目分类:
子分类:
返回
名师互学网用户登录
快速导航关闭
当前搜索
当前分类
子分类
实用工具
热门搜索
名师互学网 > IT > 软件开发 > 后端开发 > Python

用python爬虫爬取图片的步骤(如何用requests爬取数据)

Python 更新时间: 发布时间: IT归档 最新发布 模块sitemap 名妆网 法律咨询 聚返吧 英语巴士网 伯小乐 网商动力

用python爬虫爬取图片的步骤(如何用requests爬取数据)

import os

import requests
from lxml import etree

class Img():
    def __init__(self):
        self.headers = {
            "User-Agent":"Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/83.0.4103.116 Safari/537.36",
        }
        self.start_url = "http://www.netbian.com/"

    def get_response(self, url):
        res = requests.get(url, headers = self.headers)
        return res.content

    def trans_res_html(self, res):
        html = etree.HTML(res)
        return html

    def run(self):
        if not os.path.exists("tupian"):
            # 创建文件夹
            os.mkdir("tupian")
        res = self.get_response(self.start_url)
        html = self.trans_res_html(res)

        list = html.xpath('//div[@id="main"]/div[@]/ul/li/a')
        #遍历
        for dz in list:
            item = {}
            item["a_href"] = "http://www.netbian.com/" + dz.xpath('./@href')[0]
            res2 = self.get_response(item["a_href"])
            html2 = self.trans_res_html(res2)
            src = html2.xpath('//div[@id="main"]//div[@]/p/a/img/@src')[0]
            name = html2.xpath('//div[@id="main"]//div[@]/p/a/img/@alt')[0]

            img_res = self.get_response(src)
            # 保存文件
            f = open("tupian/%s.jpg" % name, "wb")
            f.write(img_res)
            # 关闭
            f.close()
            print(item)

if __name__ == '__main__':
    img = Img()
    img.run()
转载请注明:文章转载自 www.mshxw.com
本文地址:https://www.mshxw.com/it/773085.html
我们一直用心在做
关于我们 文章归档 网站地图 联系我们

版权所有 (c)2021-2022 MSHXW.COM

ICP备案号:晋ICP备2021003244-6号