ITPub博客

首页 > IT职业 > IT职场 > Python3 爬虫快速入门攻略

Python3 爬虫快速入门攻略

原创 IT职场 作者:金罗老师 时间:2018-12-07 13:52:40 0 删除 编辑



一、什么是网络爬虫?


1、定义:网络爬虫(Web Spider),又被称为网页蜘蛛,是一种按照一定的规则,自动地抓取网站信息的程序或者脚本。

2、简介:网络蜘蛛是一个很形象的名字。如果把互联网比喻成一个蜘蛛网,那么Spider就是在网上爬来爬去的蜘蛛。网络蜘蛛是通过网页的链接地址来寻找网页,从 网站某一个页面开始,读取网页的内容,找到在网页中的其它链接地址,然后通过这些链接地址寻找下一个网页,这样一直循环下去,直到把这个网站所有的网页都抓取完为止。


3、爬虫流程:①先由urllib的request打开Url得到网页html文档——②浏览器打开网页源代码分析元素节点——③通过Beautiful Soup或则正则表达式提取想要的数据——④存储数据到本地磁盘或数据库(抓取,分析,存储)


本人对于Python学习创建了一个小小的学习圈子,为各位提供了一个平台,大家一起来讨论学习Python。欢迎各位到来Python学习群:301056069 一起讨论视频分享学习。Python是未来的发展方向,正在挑战我们的分析能力及对世界的认知方式,因此,我们与时俱进,迎接变化,并不断的成长,掌握Python核心技术,才是掌握真正的价值所在。



二、上代码,直接看注释



开发环境:Win10+Python 3.6.1 64bit+PyCharm,自学Python 3爬虫时的备忘笔记。



1、爬取简书网站首页文章的标题和文章链接

结果:


2、爬取知乎网站的美女图片链接,并保存到本地

结果:




三、学习总结


     大概学习了下通过urllib和Beautiful Soup 进行简单数据爬取的流程,但是那只适用于一些简单的、数据量比较小的爬虫

项目,如果需要爬取的数据量比较大的话,之前的方法必定非常缓慢,而且还可能遇到大规模爬虫IP被网站封禁的情况,因

为好的网站会有反爬虫策略。多线程和分布式爬虫、 IP代理、处理验证码、模拟登陆、内置浏览器引擎爬虫,还有注意配合

反爬虫措施比较少的移动APP端抓取(抓包工具Fiddler)等等问题。



来自 “ ITPUB博客 ” ,链接:http://blog.itpub.net/31561003/viewspace-2284495/,如需转载,请注明出处,否则将追究法律责任。

请登录后发表评论 登录
全部评论

注册时间:2018-11-05

  • 博文量
    62
  • 访问量
    61736