ITPub博客

首页 > IT职业 > IT生活 > scrapyd在python爬虫里怎么用

scrapyd在python爬虫里怎么用

IT生活 作者:daifan 时间:2021-09-11 10:00:59 0 删除 编辑

 

如果大家比较关注于python的爬虫数据分析挖掘,那就一定要跟着小编学习了解下scrapyd,其本身优点非常的多,比如我们可以实现远程启动、停止或者删除,也可以规避爬虫源码,因为也被很多人称之为是专门用来发布scrapy爬虫的工具,好啦,下面就一起来详细了解下使用过程吧。

安装服务器:

pip install scrapyd

安装客户端:

pip install scrapyd-client

测试服务器开启:

 

浏览访问服务:

 

修改scrapy项目目录下的scrapy.cfg文件:

[deploy:JD_Spider]    #加上target   :name
url = http://localhost:6800/   #将前面的#删除
project = JD

上面就是scrapyd在爬虫中的简单使用,感兴趣的小伙伴可以跟着小编学习掌握,希望可以帮助到大家哦~

来自 “ ITPUB博客 ” ,链接:https://blog.itpub.net/2311/viewspace-2830932/ ,如需转载,请注明出处,否则将追究法律责任。

请登录后发表评论 登录
全部评论

注册时间:2019-04-16

  • 博文量
    96
  • 访问量
    813