有个段子讲“十年文案老司机，不如网易评论区，网易文豪遍地走，评论全部单身狗”，网易云音乐的评论区也一直都是各类文案大神的聚集地。

那么我们普通用户到底如何成为网易云音乐评论里的热评段子手？

让我来分析一下。

**获取数据**

其实逻辑并不复杂：

1.  爬取歌单列表里的所有歌单url。

2.  进入每篇歌单爬取所有歌曲url，去重。

3.  进入每首歌曲首页爬取热评，汇总。

歌单列表是这样的：

![](https://imgconvert.csdnimg.cn/aHR0cHM6Ly91cGxvYWQtaW1hZ2VzLmppYW5zaHUuaW8vdXBsb2FkX2ltYWdlcy8xODgyOTg5Ni1hMjgzOGFiODNjYTk4NGIz?x-oss-process=image/format,png)

翻页并观察它的url变化，注意下方动图，每次翻页末尾变化35。

![](https://imgconvert.csdnimg.cn/aHR0cHM6Ly91cGxvYWQtaW1hZ2VzLmppYW5zaHUuaW8vdXBsb2FkX2ltYWdlcy8xODgyOTg5Ni0wNzk4ODg4YTk2ZWQyMGI5?x-oss-process=image/format,png)

采用requests+pyquery来爬取。

```

在学习过程中有什么不懂得可以加我的
python学习交流扣扣qun，784758214
群里有不错的学习视频教程、开发工具与电子书籍。
与你分享python企业当下人才需求及怎么从零基础学习好python，和学习什么内容
def get_list():
    list1 = []
    for i in range(0,1295,35):
        url = 'https://music.163.com/discover/playlist/?order=hot&cat=%E5%8D%8E%E8%AF%AD&limit=35&offset='+str(i)
        print('已成功采集%i页歌单\n' %(i/35+1))
        data = []
        html = restaurant(url)
        doc = pq(html)
        for i in range(1,36): # 一页35个歌单
            a = doc('#m-pl-container > li:nth-child(' + str(i) +') > div > a').attr('href')
            a1 = 'https://music.163.com/api' + a.replace('?','/detail?')
            data.append(a1)
        list1.extend(data)
        time.sleep(5+random.random())
    return list1

```

这样我们就可以获得38页每页35篇歌单，共1300+篇歌单。

下面我们需要进入每篇歌单爬取所有歌曲url，并且要注意最后“去重”，不同歌单可能包含同一首歌曲。

点开一篇歌单，注意红色圈出的id。

![](https://imgconvert.csdnimg.cn/aHR0cHM6Ly91cGxvYWQtaW1hZ2VzLmppYW5zaHUuaW8vdXBsb2FkX2ltYWdlcy8xODgyOTg5Ni02ZTVkMTE1NmY0NzdjNGRh?x-oss-process=image/format,png)

观察一下，我们要在每篇歌单下方获取的信息也就是红框圈出的这些，利用刚刚爬取到的歌单id和网易云音乐的api（下一篇文章细讲）可以构造出：

![](https://imgconvert.csdnimg.cn/aHR0cHM6Ly91cGxvYWQtaW1hZ2VzLmppYW5zaHUuaW8vdXBsb2FkX2ltYWdlcy8xODgyOTg5Ni05MDhiMWVjYTRlNzRmZjZh?x-oss-process=image/format,png)

不方便看的话我们解析一下json。

![](https://imgconvert.csdnimg.cn/aHR0cHM6Ly91cGxvYWQtaW1hZ2VzLmppYW5zaHUuaW8vdXBsb2FkX2ltYWdlcy8xODgyOTg5Ni1lOTZhNjdiYTk4ZDBiMDM4?x-oss-process=image/format,png)

```
def get_playlist(url):
    data = []
    doc = get_json(url)
    obj=json.loads(doc)
    jobs=obj['result']['tracks']
    for job in jobs:
        dic = {}
        dic['name']=jsonpath.jsonpath(job,'$..name')[0] #歌曲名称
        dic['id']=jsonpath.jsonpath(job,'$..id')[0] #歌曲ID
        data.append(dic)
    return data

```

这样我们就获取了所有歌单下的歌曲，记得去重。

```
#去重
data = data.drop_duplicates(subset=None, keep='first', inplace=True)

```

剩下就是获取每首歌曲的热评了，与前面获取歌曲类似，也是根据api构造，很容易就找到了。

![](https://imgconvert.csdnimg.cn/aHR0cHM6Ly91cGxvYWQtaW1hZ2VzLmppYW5zaHUuaW8vdXBsb2FkX2ltYWdlcy8xODgyOTg5Ni0wODQ4NTMwZjAwNTNkZmY4?x-oss-process=image/format,png)

```
def get_comments(url,k):
    data = []
    doc = get_json(url)
    obj=json.loads(doc)
    jobs=obj['hotComments']
    for job in jobs:
        dic = {}
        dic['content']=jsonpath.jsonpath(job,'$..content')[0] 
        dic['time']= stampToTime(jsonpath.jsonpath(job,'$..time')[0])
        dic['userId']=jsonpath.jsonpath(job['user'],'$..userId')[0]  #用户ID
        dic['nickname']=jsonpath.jsonpath(job['user'],'$..nickname')[0]#用户名
        dic['likedCount']=jsonpath.jsonpath(job,'$..likedCount')[0] 
        dic['name']= k
        data.append(dic)
    return data

```

汇总后就获得了44万条音乐热评数据。

![](https://imgconvert.csdnimg.cn/aHR0cHM6Ly91cGxvYWQtaW1hZ2VzLmppYW5zaHUuaW8vdXBsb2FkX2ltYWdlcy8xODgyOTg5Ni1mN2I1MDJhODBkMWZjOTM0?x-oss-process=image/format,png)

**数据分析**

清洗填充一下。

```
def data_cleaning(data):
    cols = data.columns
    for col in cols:
        if data[col].dtype ==  'object':
            data[col].fillna('缺失数据', inplace = True)
        else:
            data[col].fillna(0, inplace = True)
    return(data)

```

按照点赞数排个序。

```
#排序
df1['likedCount'] = df1['likedCount'].astype('int')
df_2 = df1.sort_values(by="likedCount",ascending=False)
df_2.head()

```

![](https://imgconvert.csdnimg.cn/aHR0cHM6Ly91cGxvYWQtaW1hZ2VzLmppYW5zaHUuaW8vdXBsb2FkX2ltYWdlcy8xODgyOTg5Ni1lMDE5NmUwOWU3N2JiYTFj?x-oss-process=image/format,png)

再看看哪些热评是被复制粘贴搬来搬去的。

```
#排序
df_line = df.groupby(['content']).count().reset_index().sort_values(by="name",ascending=False)
df_line.head()

```

![](https://imgconvert.csdnimg.cn/aHR0cHM6Ly91cGxvYWQtaW1hZ2VzLmppYW5zaHUuaW8vdXBsb2FkX2ltYWdlcy8xODgyOTg5Ni1jNTJkMDcwY2NlMWM1OTJh?x-oss-process=image/format,png)

第一个和第三个只是末尾有没有句号的区别，可以归为一类。这样的话，重复次数最多个这句话竟然重复了412次，额~~

看看上热评次数次数最多的是哪位大神？从他的身上我们能学到什么经验？

```
df_user = df.groupby(['userId']).count().reset_index().sort_values(by="name",ascending=False)
df_user.head()

```

按照 user_id 汇总一下，排序。

![](https://imgconvert.csdnimg.cn/aHR0cHM6Ly91cGxvYWQtaW1hZ2VzLmppYW5zaHUuaW8vdXBsb2FkX2ltYWdlcy8xODgyOTg5Ni03MTJlMzNmNWZjN2I1Njg4?x-oss-process=image/format,png)

成功“捕获”一枚“段子手”，上热评次数高达347，我们再看看这位大神究竟都评论些什么？

```
df_user_max = df.loc[(df['userId'] == 101***770)]
df_user_max.head()

```

![](https://imgconvert.csdnimg.cn/aHR0cHM6Ly91cGxvYWQtaW1hZ2VzLmppYW5zaHUuaW8vdXBsb2FkX2ltYWdlcy8xODgyOTg5Ni0xMzhhMzQ2M2FkZmMyYWNk?x-oss-process=image/format,png)

这位“失眠的陈先生”看来各种情话娴熟于手啊，下面就以他举例来看看如何成为网易云音乐评论里的热评段子手吧。

**数据可视化**

先看看这347条评论的赞数分布。

```
#赞数分布图
import matplotlib.pyplot as plt
data = df_user_max['likedCount']
#data.to_csv("df_user_max.csv", index_label="index_label",encoding='utf-8-sig')
plt.hist(data,100,normed=True,facecolor='g',alpha=0.9)
plt.show()
```

![](https://imgconvert.csdnimg.cn/aHR0cHM6Ly91cGxvYWQtaW1hZ2VzLmppYW5zaHUuaW8vdXBsb2FkX2ltYWdlcy8xODgyOTg5Ni1kMjQzMzgyNmQzM2JkZjg2?x-oss-process=image/format,png)

很明显，赞数并不多，大部分都在500赞之内，几百赞却能跻身热评，这也侧面说明了这些歌曲是比较小众的，看来是经常在新歌区广撒网。

我们使用len() 求出每条评论的字符串长度，再画个分布图

![](https://imgconvert.csdnimg.cn/aHR0cHM6Ly91cGxvYWQtaW1hZ2VzLmppYW5zaHUuaW8vdXBsb2FkX2ltYWdlcy8xODgyOTg5Ni0wZDE0NzdmNTY3MTczZTk1?x-oss-process=image/format,png)

评论的字数集中在18—30字之间，这说明在留言时要注意字数，保险的做法是不要太长让人读不下去，也不要太短以免不够经典。

做个词云。

![image](https://imgconvert.csdnimg.cn/aHR0cHM6Ly91cGxvYWQtaW1hZ2VzLmppYW5zaHUuaW8vdXBsb2FkX2ltYWdlcy8xODgyOTg5Ni1iNGFlYTM1M2FiNzBjZmU3?x-oss-process=image/format,png)

可以看出他的评论风格是以一首歌使他“想起”“感觉”为开头，宾语通常是“喜欢的女孩子”，也经常用"她”来指代。寄托的情感是“后悔”“悲伤”，感慨的终点是“放下”。

也许我们可以通过分析规律收获点赞，成为热评网红段子手。但最终能打动人心的，依然是基于歌曲本身的真诚分享，和点出歌中蕴含的真正共鸣。

如果你依然在编程的世界里迷茫，可以加入我们的Python学习扣qun：784758214，看看前辈们是如何学习的。交流经验。从基础的python脚本到web开发、爬虫、django、数据挖掘等，零基础到项目实战的资料都有整理。送给每一位python的小伙伴！分享一些学习的方法和需要注意的小细节，点击加入我们的 [python学习者聚集地](http://u6.gg/sHpSz)

![image](https://imgconvert.csdnimg.cn/aHR0cHM6Ly91cGxvYWQtaW1hZ2VzLmppYW5zaHUuaW8vdXBsb2FkX2ltYWdlcy8xODgyOTg5Ni0wZDQ3ODM4OTYyNDZjZmNl?x-oss-process=image/format,png)

ITPub博客

用Python分析44万条数据，揭秘如何成为网易云音乐评论区的网红段子手

最新文章