ITPub博客

首页 > 数据库 > 数据库开发技术 > Python爬取同样的网页,bs4和xpath抓到的结果不同?

Python爬取同样的网页,bs4和xpath抓到的结果不同?

原创 数据库开发技术 作者:Python进阶者 时间:2024-06-18 09:00:00 0 删除 编辑
点击上方“Python爬虫与数据挖掘”,进行关注

回复“书籍”即可获赠Python从入门到进阶共10本电子书

今

日

鸡

汤

红豆生南国,春来发几枝。

大家好,我是Python进阶者。

一、前言

前几天在Python白银交流群【沐子山树】问了一个Python网络爬虫的问题,问题如下:刚好遇到另外一个问题,请教下大佬。就是我爬取同样的网页,用xpath的时候会将图上这样的script标签里面的内容当成text取出来,但是用BS4就不会。导致两种方法取出来的text不一样。这种情况应该如何处理?

我可能想问的是:

1.存在这种差异是对的吗?确认不是我代码写错了?

2.纯技术上,如果Xpath的结果想去掉这段,bs4的结果想有这段应该如何处理?

二、实现过程

这里【瑜亮老师】给了个思路如下:

xpath是路径找值,不要就别在路径上写,或者用更加精确的路径(尽可能少用//)。当然也可以使用xp中的"排除"写法,例如://parent/node()[not(self::child2)],但这会让xp路径看起来比较复杂,代码可读性变弱。

刚入手的话不用纠结哪个更好,先练会一个,再练习另一个。其实爬虫中能让你上bs或xp还算是比较简单的静态页面。

bs,xpath二者选一个用熟,另一个会就行。re,json二者都要熟练 这其中re规则很多,更难一些,需要多练。json是相对而言最简单的,但json在静态网页上用不上。

顺利地解决了粉丝的疑问。

如果你也有类似这种Python相关的小问题,欢迎随时来交流群学习交流哦,有问必答!

三、总结

大家好,我是Python进阶者。这篇文章主要盘点了一个Python正则表达式的问题,文中针对该问题,给出了具体的解析和代码实现,帮助粉丝顺利解决了问题。

最后感谢粉丝【沐子山树】提出的问题,感谢【Kimi】、【瑜亮老师】给出的思路,感谢【莫生气】等人参与学习交流。

【提问补充】温馨提示,大家在群里提问的时候。可以注意下面几点:如果涉及到大文件数据,可以数据脱敏后,发点demo数据来(小文件的意思),然后贴点代码(可以复制的那种),记得发报错截图(截全)。代码不多的话,直接发代码文字即可,代码超过50行这样的话,发个.py文件就行。

大家在学习过程中如果有遇到问题,欢迎随时联系我解决(我的微信:pdcfighting1),应粉丝要求,我创建了一些高质量的Python付费学习交流群和付费接单群,欢迎大家加入我的Python学习交流群和接单群!

小伙伴们,快快用实践一下吧!如果在学习过程中,有遇到任何问题,欢迎加我好友,我拉你进Python学习交流群共同探讨学习。

------------------- End -------------------

往期精彩文章推荐:

欢迎大家点赞,留言,转发,转载,感谢大家的相伴与支持

想加入Python学习群请在后台回复【入群】

万水千山总是情,点个【在看】行不行

/今日留言主题/

随便说一两句吧~~

原文作者:Python爬虫与数据挖掘;如有侵权,请联系管理员删除。

请登录后发表评论 登录
全部评论

注册时间:2024-12-18

  • 博文量
    913
  • 访问量
    379421