栏目分类:
子分类:
返回
名师互学网用户登录
快速导航关闭
当前搜索
当前分类
子分类
实用工具
热门搜索
名师互学网 > IT > 软件开发 > 后端开发 > Python

python:爬取租房100页数据

Python 更新时间: 发布时间: IT归档 最新发布 模块sitemap 名妆网 法律咨询 聚返吧 英语巴士网 伯小乐 网商动力

python:爬取租房100页数据

python:爬取贝壳租房100页数据
import requests
from bs4 import BeautifulSoup
import csv,re

def get_one_page(page):
    url = f'https://cd.zu.ke.com/zufang/pg{page}/#contentList'
    response = requests.get(url)
    if response.status_code == 200:
        return  response.text
    else:
        print(response)
        return None

def analysis_data(html):
    """
    解析一页数据
    :param html:
    :return:
    """
    soup = BeautifulSoup(html,'lxml')
    house_div = soup.select('.content__list>div')
    all_house =[]
    for div in house_div:
        info = div.select_one('.content__list--item--des').text
        info = re.sub(r's+', '',info).split('/')
        address = info[-5]
        area = float(info[-4][:-1])
        house_type = info[-2]
        region = address.split('-')[0]
        price = div.select_one('.content__list--item-price').text
        price = int(re.match(r'd+',price).group())
        all_house.append([region,address,area,house_type,price])
        # print(all_house)

        with open('files/贝壳租房.csv','a',encoding='utf-8',newline='') as f:
            writer = csv.writer(f)
            if page == 1:
                writer.writerow(['地区','地址','面积()','户型价格(元/月)'])
            else:
                writer.writerows(all_house)



if __name__ == '__main__':
    for page in range(1,3):
        result = get_one_page(page)
        analysis_data(result)
转载请注明:文章转载自 www.mshxw.com
本文地址:https://www.mshxw.com/it/989717.html
我们一直用心在做
关于我们 文章归档 网站地图 联系我们

版权所有 (c)2021-2022 MSHXW.COM

ICP备案号:晋ICP备2021003244-6号