完成scrapy项目创建:scrapy项目创建
在pycharm控制台安装scrapyd和scrapyd-client。
>pip install scrapyd >pip install scrapyd-client
完成之后跳转到scrapyd安装位置,比如d:anaconda3Libsite-packages,执行scrapyd,开启服务。
>cd d:anaconda3Libsite-packages >scrapyd
对于出现的url, http://localhost:6800/,点击会有如下显示。
配置scrapy.cfg文件,在scrapy项目hello下,可以pycharm打开更改,更改为
[settings] default = hello.settings [deploy:hello] url = http://localhost:6800/ project = hello
配置scrapyd-client命令,仅windows系统,在scrapyd-client.exe文件目录D:anaconda3scripts下新建scrapyd-client.bat文件。文件内容为
@echo off "D:anaconda3python.exe" "D:anaconda3scriptsscrapyd-deploy" %*
此时scrapyd-client可以部署项目,新开控制台,原控制台服务保留,执行以下命令
>scrapyd-deploy hello -p hello
第一个hello是项目名,第二个是重命名。重命名可以更改,项目名与scrapy项目一致。
部署完成之后scrapyd-deploy相关命令也可以执行了。
scrapyd-deploy相关命令
在pycharm控制台安装gerapy模块
>pip install gerapy
然后确认gerapy,然后初始化。
>gerapy >gerapy init
再切换gerapy目录,重置数据库,创建超级用户。设置用户名和密码。
>cd gerapy >gerapy migrate >gerapy createsuperuser
再开启gerapy服务。
>gerapy runserver
显示出本地网址http://127.0.0.1:8000/,进入
使用超级用户登录。
然后创建主机、项目。
部署项目,更改描述打包,主机部署。
然后新建任务,查看状态,修改之后定时执行。



