python多线程进行地图栅格瓦片的爬虫
之前使用node.js基于exectron框架,开发过一款地图TMS瓦片下载器,虽然存在很多问题,但还是得到了很多网友的响应。node.js毕竟是单线程的,下载效率可想而知。虽然说node.js支持异步回调,但是异步超过一定的数量,直接就死掉了。后来学习了python,python同时支持多线程和多进程,就想用python能不能提高一下效率,也研究出了一些成果,这里分享一下。
目录
- python多线程进行地图栅格瓦片的爬虫
-
- 线程与进程的选择
- 地图栅格瓦片爬虫的原理
- 代码实现
-
- 基础代码base.py
- 1. 单线程模式
- 2. 多线程模式
- 时间对比
- 实现效果
线程与进程的选择
进程是资源分配的最小单位,线程是CPU调度的最小单位,一个进程里可以包含多个线程。网上有个表很



