R语言自然语言处理:文本向量化——词嵌入(Word Embedding)
作者:黄天元,复旦大学博士在读,热爱数据科学与R,热衷推广R在工业界与学术界的应用。邮箱:huang.tian-yuan@qq.com.欢迎合作交流 前文参考:HopeR:R语言自然语言处理:中文分词HopeR:R语言自然语言处理:词性标注与命名实体识别HopeR:R语言自然语言处…
R语言ETL工程:创建字段(mutate)
作者:黄天元,复旦大学博士在读,热爱数据科学与R,热衷推广R在工业界与学术界的应用。邮箱:huang.tian-yuan@qq.com.欢迎合作交流 知乎的bug,一直没有办法正确上传本章节,所以就直接给出R代码了。不过CSDN貌似可以正确显示,该兴趣可以直接过去看(R语…
R语言ETL工程:汇总(summarise)
作者:黄天元,复旦大学博士在读,热爱数据科学与R,热衷推广R在工业界与学术界的应用。邮箱:huang.tian-yuan@qq.com.欢迎合作交流本章讲解如何使用summarise函数完成数据的汇总。在开讲之前,我们需要理解,什么叫做汇总。举个例子,如果我们现在对学校的…
R语言信用评分卡:数据分箱(binning)
作者:黄天元,复旦大学博士在读,热爱数据科学与R,热衷推广R在工业界与学术界的应用。邮箱:huang.tian-yuan@qq.com.欢迎合作交流library(knitr) opts_chunk$set(eval = F)在做信用评分卡的时候,很重要的一个环节就是特征工程。在学习了WOE、IF这些概念…
程序员的数学笔记2--余数
上一节程序员的数学笔记1--进制转换是介绍了进制,特别是十进制和二进制之间的转换,移位操作和逻辑操作。 今天介绍的是余数,看完本节笔记,你会发现生活中有很多东西都有余数的影子。 整数是没有边界的,它可能是正无穷,也可能是负无穷。 **但余数却总是在一个固定的范围内。**假如除数…
R语言自然语言处理:关键词提取与文本摘要(TextRank)
作者:黄天元,复旦大学博士在读,热爱数据科学与R,热衷推广R在工业界与学术界的应用。邮箱:huang.tian-yuan@qq.com.欢迎合作交流关于提取关键词的方法,除了TF-IDF算法,比较有名的还有TextRank算法。它是基于PageRank衍生出来的自然语言处理算法,是一…
R语言自然语言处理:关键词提取(TF-IDF)
作者:黄天元,复旦大学博士在读,热爱数据科学与R,热衷推广R在业界的应用。邮箱:huang.tian-yuan@qq.com.欢迎合作交流本文希望诠释如何利用TF-IDF方法对文本中的关键词进行提取。关键词提取的输入是一大段文本材料,输出是少数的关键词。比如我们日常看…
程序员的数学笔记1--进制转换
最近在学习极客时间的课程--程序员的数学基础课。 这是第一节课程的学习笔记--有关进制的转换。 二进制则采用 2 作为基数,它的数位是的形式。例如二进制数字110101,它转换为十进制的表示过程如下: 根据这个思路,八进制(以 8 为基数)和十六进制(以 16 为基数)等计数方…
R语言自然语言处理:词性标注与命名实体识别
作者:黄天元,复旦大学博士在读,热爱数据科学与R,热衷推广R在业界的应用。邮箱:huang.tian-yuan@qq.com.欢迎合作交流原理简介在之前的文章中(R语言自然语言处理:中文分词)介绍了如何利用jiebaR来做中文分词,这次希望研究如果利用R语言来做词性标注…