ITPub博客

首页 > IT职业 > IT职场 > python分布式爬虫中的Gerapy是什么?如何安装?

python分布式爬虫中的Gerapy是什么?如何安装?

IT职场 作者:zl_king 时间:2021-09-11 10:07:18 0 删除 编辑

分布式爬虫的框架小编也为大家介绍了不少,除了三种常见的,还有我们熟悉的scrapy框架。对于大部分小伙伴而言,掌握前四种已经可以满足大部分的使用需求了。不过小编一直在想有没有一种框架,可以弥补其他框架中的不足,在使用功能上更加强大呢?经过一番资料的搜集,发现了Gerapy 这个框架。很多人可能没太接触过,下面小编就跟大家详细讲解python分布式爬虫中的Gerapy及安装方法。


Gerapy 是一款分布式爬虫管理框架,支持 Python 3,基于 Scrapy、Scrapyd、Scrapyd-Client、Scrapy-Redis、Scrapyd-API、Scrapy-Splash、Jinjia2、Django、Vue.js 开发,Gerapy 可以帮助我们:

  • 更方便地控制爬虫运行

  • 更直观地查看爬虫状态

  • 更实时地查看爬取结果

  • 更简单地实现项目部署

  • 更统一地实现主机管理

  • 更轻松地编写爬虫代码

 

安装非常简单,只需要运行 pip3 命令即可:

$ pip3 install gerapy


安装完成之后我们就可以使用 gerapy 命令了,输入 gerapy 便可以获取它的基本使用方法:

$ gerapy
Usage:
  gerapy init [--folder=<folder>]
  gerapy migrate
  gerapy createsuperuser
  gerapy runserver [<host:port>]
  gerapy makemigrations

如果出现上述结果,就证明 Gerapy 安装成功了。


这里小编要跟大家透露的是,Gerapy框架较于scrapy来说操作流程更加简便,在代码方面是可以生成的。看到这里,还没有下载安装Gerapy的小伙伴赶紧行动吧~更多Python学习指路:PyThon学习网教学中心。


来自 “ ITPUB博客 ” ,链接:https://blog.itpub.net/1567/viewspace-2832001/ ,如需转载,请注明出处,否则将追究法律责任。

请登录后发表评论 登录
全部评论

注册时间:2019-04-15

  • 博文量
    102
  • 访问量
    725