ITPub博客

首页 > 数据库 > 国内数据库 > HanLP自然语言处理包开源

HanLP自然语言处理包开源

国内数据库 作者:lanlantian123456 时间:2018-11-07 14:56:33 0 删除 编辑

中文分词 自然语言处理

中文分词只是第一步;HanLP从中文分词开始,覆盖词性标注、命名实体识别、句法分析、文本分类等常用任务,提供了丰富的API。

不同于一些简陋的分词类库,HanLP精心优化了内部数据结构和IO接口,做到了毫秒级的冷启动、千万字符每秒的处理速度,而内存最低仅需120MB。无论是移动设备还是大型集群,都能获得良好的体验。

不同于市面上的商业工具,HanLP提供训练模块,可以在用户的语料上训练模型并替换默认模型,以适应不同的领域。项目主页上提供了详细的 文档 ,以及在一些开源语料上训练的模型。

HanLP希望兼顾学术界的精准与工业界的效率,在两者之间取一个平衡,真正将自然语言处理普及到生产环境中去。

支持中文分词(N-最短路分词、CRF分词、索引分词、用户自定义词典、词性标注),命名实体识别(中国人名、音译人名、日本人名、地名、实体机构名识别),关键词提取,自动摘要,短语提取,拼音转换,简繁转换,文本推荐,依存句法分析(MaxEnt依存句法分析、神经网络依存句法分析)。提供Lucene插件,兼容Solr和ElasticSearch。

HanLP已经被广泛用于Lucene、Solr、ElasticSearch、Hadoop、Android、Resin等平台,有大量开源作者开发各种插件与拓展,并且被包装或移植到Python、C#、R、JavaScript等语言上去。

HanLP: Han Language Processing     

汉语言处理包

       


HanLP 是由一系列模型与算法组成的Java工具包,目标是促进自然语言处理在生产环境中的应用。 HanLP 具备功能完善、性能高效、架构清晰、语料时新、可自定义的特点。

HanLP 提供下列功能:

  • 中文分词

    • 最短路分词

    • N-最短路分词

    • CRF分词

    • 索引分词

    • 极速词典分词

    • 用户自定义词典

  • 词性标注

  • 命名实体识别

    • 中国人名识别

    • 音译人名识别

    • 日本人名识别

    • 地名识别

    • 实体机构名识别

  • 关键词提取

    • TextRank关键词提取

  • 自动摘要

    • TextRank自动摘要

  • 短语提取

    • 基于互信息和左右信息熵的短语提取

  • 拼音转换

    • 多音字

    • 声母

    • 韵母

    • 声调

  • 简繁转换

    • 繁体中文分词

    • 简繁分歧词

  • 文本推荐

    • 语义推荐

    • 拼音推荐

    • 字词推荐

  • 依存句法分析

    • 基于神经网络的高性能依存句法分析器

    • MaxEnt依存句法分析

    • CRF依存句法分析

  • 语料库工具

    • 分词语料预处理

    • 词频词性词典制作

    • BiGram统计

    • 词共现统计

    • CoNLL语料预处理

    • CoNLL UA/LA/DA评测工具

在提供丰富功能的同时, HanLP 内部模块坚持低耦合、模型坚持惰性加载、服务坚持静态提供、词典坚持明文发布,使用非常方便,同时自带一些语料处理工具,帮助用户训练自己的语料。


项目地址

HanLP项目主页:      

HanLP下载地址:  

Python接口:  

HanLP在线演示:  

最新binary、文档都 以 为准 。博客是一个相对容易编辑的地方,国内访问速度较快,所以用做文档备份。

技术问题请   ,大家一起讨论,也方便集中管理。博客留言、微博私信、邮件 不受理 任何HanLP相关的问题,谢谢合作! 是官方指定唯一交流途径,你可以找到最新的版本、最全的文档、最多的社区支持、最丰富的插件。

反馈问题的时候 请一定 附上 版本号 触发代码、输入输出 否则无法处理

内存要求

内存120MB以上(-Xms120m -Xmx120m -Xmn64m),标准数据包(35万核心词库+默认用户词典),分词测试正常。

全部词典和模型都是惰性加载的,如果你只用拼音转换的话,则只加载拼音词典,未加载的词典相当于不存在,不占内存。同理,模型也是如此。

更新日志

最新版请移步

旧版本一览——

2015年7月12日 发布了 。在长时间的思考后,决定将用户词典用于分词后的合并处理,使得用户词典中的长词更容易切分出来。

2015年5月11日 发布了 。主要支持了并行化,优化了CRF分词,新增了TnT分词器,支持了数量词识别。数据包 也做了小幅调整。其实最新的更新日志都可以在 上看到,比博客详细多了,更新也勤快多了。

2015年5月02日 发布了 。主要将ACDAT降级为DAT,内存占用减少了一半。所以需要删缓存重新构建,或者下载 。另外,还发布了内置数据包的Portable版,可以通过maven直接引入,零配置!

2015年4月28日 发布了 。这次训练了一个新的CRF分词模型,感觉效果要好很多 (注:该模型与旧版本不兼容) 。诸位可以评估一下,提出宝贵意见。


下载与配置

方式一、通过Maven的pom.xml

为了方便用户,特提供内置了数据包的Portable版,只需在pom.xml加入:

<dependency>    <groupId>com.hankcs</groupId>    <artifactId>hanlp</artifactId>    <version>portable-1.3.4</version></dependency>

请将版本号替换为右图所示最新的版本号:

零配置,即可使用基本功能(除CRF分词、依存句法分析外的全部功能)。 连Maven都懒得用的话,可以直接

如果用户有自定义的需求,可以参考方式二,使用hanlp.properties进行配置。

目前Portable体积仅仅5.7MB,作为代价,使用的是1998年的小词典,对现代汉语的支持有限;所以还是建议外挂下面的数据包比较好。

方式二、下载jar、data、 hanlp.properties

HanLP 将数据与程序分离,给予用户自定义的自由。

1、下载jar

2、下载data

数据包 功能 体积(MB)
全部词典,全部模型 280(注: 分词词典大约40MB, 主要是句法分析模型占体积,可以自行删除。)

在 Ctrl+F搜索data即可,下载后解压到任意目录,接下来通过配置文件告诉HanLP数据包的位置。

HanLP 中的数据分为 词典 模型 ,其中 词典 是词法分析必需的, 模型 是句法分析必需的。

data│  ├─dictionary└─model

用户可以自行增删替换,如果不需要句法分析功能的话,随时可以删除model文件夹。

3、配置文件

示例配置文件:

配置文件的作用是告诉HanLP数据包的位置,只需修改第一行

root=usr/home/HanLP/

为data的 父目录 即可,比如data目录是 /Users/hankcs/Documents/data ,那么 root=/Users/hankcs/Documents/  。

  • 如果选用mini词典的话,则需要修改配置文件: 
    CoreDictionaryPath=data/dictionary/CoreNatureDictionary.mini.txt 
    BiGramDictionaryPath=data/dictionary/CoreNatureDictionary.ngram.mini.txt

最后将HanLP.properties放入classpath即可,对于任何项目,都可以放到src目录或resources目录下,编译时IDE会自动将其复制到classpath中。

如果放置不当,HanLP会智能提示当前环境下的合适路径,并且尝试从项目根目录读取数据集。

调用方法

HanLP 几乎所有的功能都可以通过工具类 HanLP 快捷调用,当你想不起来调用方法时,只需键入 HanLP. ,IDE应当会给出提示,并展示 HanLP 完善的文档。

推荐用户始终通过工具类 HanLP 调用,这么做的好处是,将来 HanLP 升级后,用户无需修改调用代码。

所有Demo都位于 下。

1. 第一个Demo

System.out.println(HanLP.segment("你好,欢迎使用HanLP汉语处理包!"));

2. 标准分词

List<Term> termList = StandardTokenizer.segment("商品和服务");System.out.println(termList);
  • 说明

    • HanLP 中有一系列“开箱即用”的静态分词器,以 Tokenizer 结尾,在接下来的例子中会继续介绍。

    • HanLP.segment 其实是对 StandardTokenizer.segment 的包装。

    • 分词结果包含词性,每个词性的意思请查阅 。

  • 算法详解

3. NLP分词

List<Term> termList = NLPTokenizer.segment("中国科学院计算技术研究所的宗成庆教授正在教授自然语言处理课程");System.out.println(termList);
  • 说明

    • NLP分词 NLPTokenizer 会执行全部命名实体识别和词性标注。

4. 索引分词

List<Term> termList = IndexTokenizer.segment("主副食品");for (Term term : termList){    System.out.println(term + " [" + term.offset + ":" + (term.offset + term.word.length()) + "]");}
  • 说明

    • 索引分词 IndexTokenizer 是面向搜索引擎的分词器,能够对长词全切分,另外通过 term.offset 可以获取单词在文本中的偏移量。

5. N-最短路径分词

Segment nShortSegment = new NShortSegment().enableCustomDictionary(false).enablePlaceRecognize(true).enableOrganizationRecognize(true);Segment shortestSegment = new DijkstraSegment().enableCustomDictionary(false).enablePlaceRecognize(true).enableOrganizationRecognize(true);String[] testCase = new String[]{        "今天,刘志军案的关键人物,山西女商人丁书苗在市二中院出庭受审。",        "刘喜杰石国祥会见吴亚琴先进事迹报告团成员",        };for (String sentence : testCase){    System.out.println("N-最短分词:" + nShortSegment.seg(sentence) + "\n最短路分词:" + shortestSegment.seg(sentence));}
  • 说明

    • N最短路分词器 NShortSegment 比最短路分词器慢,但是效果稍微好一些,对命名实体识别能力更强。

    • 一般场景下最短路分词的精度已经足够,而且速度比N最短路分词器快几倍,请酌情选择。

  • 算法详解

6. CRF分词

/** * CRF分词(在最新训练的未压缩100MB模型下,能够取得较好的效果,可以投入生产环境) * * @author hankcs */public class DemoCRFSegment{    public static void main(String[] args)    {        HanLP.Config.ShowTermNature = false;    // 关闭词性显示        Segment segment = new CRFSegment();        String[] sentenceArray = new String[]                {                        "HanLP是由一系列模型与算法组成的Java工具包,目标是普及自然语言处理在生产环境中的应用。",                        "鐵桿部隊憤怒情緒集結 馬英九腹背受敵",           // 繁体无压力                        "馬英九回應連勝文“丐幫說”:稱黨內同志談話應謹慎",                        "高锰酸钾,强氧化剂,紫红色晶体,可溶于水,遇乙醇即被还原。常用作消毒剂、水净化剂、氧化剂、漂白剂、毒气吸收剂、二氧化碳精制剂等。", // 专业名词有一定辨识能力                        "《夜晚的骰子》通过描述浅草的舞女在暗夜中扔骰子的情景,寄托了作者对庶民生活区的情感",    // 非新闻语料                        "这个像是真的[委屈]前面那个打扮太江户了,一点不上品...@hankcs",                       // 微博                        "鼎泰丰的小笼一点味道也没有...每样都淡淡的...淡淡的,哪有食堂2A的好次",                        "克里斯蒂娜·克罗尔说:不,我不是虎妈。我全家都热爱音乐,我也鼓励他们这么做。",                        "今日APPS:Sago Mini Toolbox培养孩子动手能力",                        "财政部副部长王保安调任国家统计局党组书记",                        "2.34米男子娶1.53米女粉丝 称夫妻生活没问题",                        "你看过穆赫兰道吗",                        "乐视超级手机能否承载贾布斯的生态梦"                };        for (String sentence : sentenceArray)        {            List<Term> termList = segment.seg(sentence);            System.out.println(termList);        }    }}
  • 说明

    • CRF对新词有很好的识别能力,但是无法利用自定义词典。

  • 算法详解

7. 极速词典分词

/** * 演示极速分词,基于AhoCorasickDoubleArrayTrie实现的词典分词,适用于“高吞吐量”“精度一般”的场合 * @author hankcs */public class DemoHighSpeedSegment{    public static void main(String[] args)    {        String text = "江西鄱阳湖干枯,中国最大淡水湖变成大草原";        System.out.println(SpeedTokenizer.segment(text));        long start = System.currentTimeMillis();        int pressure = 1000000;        for (int i = 0; i < pressure; ++i)        {            SpeedTokenizer.segment(text);        }        double costTime = (System.currentTimeMillis() - start) / (double)1000;        System.out.printf("分词速度:%.2f字每秒", text.length() * pressure / costTime);    }}
  • 说明

    • 极速分词是词典最长分词,速度极其快,精度一般。

    • 在i7上跑出了2000万字每秒的速度。

  • 算法详解

8. 用户自定义词典

public class DemoCustomDictionary{    public static void main(String[] args)    {        // 动态增加        CustomDictionary.add("攻城狮");        // 强行插入        CustomDictionary.insert("白富美", "nz 1024");        // 删除词语(注释掉试试)//        CustomDictionary.remove("攻城狮");        System.out.println(CustomDictionary.add("单身狗", "nz 1024 n 1"));        System.out.println(CustomDictionary.get("单身狗"));         String text = "攻城狮逆袭单身狗,迎娶白富美,走上人生巅峰";  // 怎么可能噗哈哈!         // DoubleArrayTrie分词        final char[] charArray = text.toCharArray();        CustomDictionary.parseText(charArray, new AhoCorasickDoubleArrayTrie.IHit<CoreDictionary.Attribute>()        {            @Override            public void hit(int begin, int end, CoreDictionary.Attribute value)            {                System.out.printf("[%d:%d]=%s %s\n", begin, end, new String(charArray, begin, end - begin), value);            }        });        // 首字哈希之后二分的trie树分词        BaseSearcher searcher = CustomDictionary.getSearcher(text);        Map.Entry entry;        while ((entry = searcher.next()) != null)        {            System.out.println(entry);        }         // 标准分词        System.out.println(HanLP.segment(text));         // Note:动态增删不会影响词典文件        // 目前CustomDictionary使用DAT储存词典文件中的词语,用BinTrie储存动态加入的词语,前者性能高,后者性能低        // 之所以保留动态增删功能,一方面是历史遗留特性,另一方面是调试用;未来可能会去掉动态增删特性。    }
  • 说明

    • CustomDictionary 是一份全局的用户自定义词典,可以随时增删,影响全部分词器。

    • 另外可以在任何分词器中关闭它。通过代码动态增删不会保存到词典文件。

  • 追加词典

    • CustomDictionary 主词典文本路径是 data/dictionary/custom/CustomDictionary.txt ,用户可以在此增加自己的词语(不推荐);也可以单独新建一个文本文件,通过配置文件 CustomDictionaryPath=data/dictionary/custom/CustomDictionary.txt; 我的词典.txt; 来追加词典(推荐)。

    • 始终建议将相同词性的词语放到同一个词典文件里,便于维护和分享。

  • 词典格式

    • 每一行代表一个单词,格式遵从 [单词] [词性A] [A的频次] [词性B] [B的频次] ...  如果不填词性则表示采用词典的默认词性。

    • 词典的默认词性默认是名词n,可以通过配置文件修改: 全国地名大全.txt ns; 如果词典路径后面空格紧接着词性,则该词典默认是该词性。

    • 关于用户词典的更多信息请参考 词典说明 一章。

  • 算法详解

9. 中国人名识别

String[] testCase = new String[]{        "签约仪式前,秦光荣、李纪恒、仇和等一同会见了参加签约的企业家。",        "王国强、高峰、汪洋、张朝阳光着头、韩寒、小四",        "张浩和胡健康复员回家了",        "王总和小丽结婚了",        "编剧邵钧林和稽道青说",        "这里有关天培的有关事迹",        "龚学平等领导,邓颖超生前",        };Segment segment = HanLP.newSegment().enableNameRecognize(true);for (String sentence : testCase){    List<Term> termList = segment.seg(sentence);    System.out.println(termList);}
  • 说明

    • 目前分词器基本上都默认开启了中国人名识别,比如 HanLP.segment() 接口中使用的分词器等等,用户不必手动开启;上面的代码只是为了强调。

    • 有一定的误命中率,比如误命中 关键年 ,则可以通过在 data/dictionary/person/nr.txt 加入一条 关键年 A 1 来排除 关键年 作为人名的可能性,也可以将 关键年 作为新词登记到自定义词典中。

    • 如果你通过上述办法解决了问题,欢迎向我提交pull request,词典也是宝贵的财富。

  • 算法详解

10. 音译人名识别

String[] testCase = new String[]{                "一桶冰水当头倒下,微软的比尔盖茨、Facebook的扎克伯格跟桑德博格、亚马逊的贝索斯、苹果的库克全都不惜湿身入镜,这些硅谷的科技人,飞蛾扑火似地牺牲演出,其实全为了慈善。",                "世界上最长的姓名是简森·乔伊·亚历山大·比基·卡利斯勒·达夫·埃利奥特·福克斯·伊维鲁莫·马尔尼·梅尔斯·帕特森·汤普森·华莱士·普雷斯顿。",        };Segment segment = HanLP.newSegment().enableTranslatedNameRecognize(true);for (String sentence : testCase){    List<Term> termList = segment.seg(sentence);    System.out.println(termList);}
  • 说明

    • 目前分词器基本上都默认开启了音译人名识别,用户不必手动开启;上面的代码只是为了强调。

  • 算法详解

11. 日本人名识别

String[] testCase = new String[]{        "北川景子参演了林诣彬导演的《速度与激情3》",        "林志玲亮相网友:确定不是波多野结衣?",};Segment segment = HanLP.newSegment().enableJapaneseNameRecognize(true);for (String sentence : testCase){    List<Term> termList = segment.seg(sentence);    System.out.println(termList);}
  • 说明

    • 目前标准分词器默认关闭了日本人名识别,用户需要手动开启;这是因为日本人名的出现频率较低,但是又消耗性能。

  • 算法详解

12. 地名识别

String[] testCase = new String[]{        "武胜县新学乡政府大楼门前锣鼓喧天",        "蓝翔给宁夏固原市彭阳县红河镇黑牛沟村捐赠了挖掘机",};Segment segment = HanLP.newSegment().enablePlaceRecognize(true);for (String sentence : testCase){    List<Term> termList = segment.seg(sentence);    System.out.println(termList);}
  • 说明

    • 目前标准分词器都默认关闭了地名识别,用户需要手动开启;这是因为消耗性能,其实多数地名都收录在核心词典和用户自定义词典中。

    • 在生产环境中,能靠词典解决的问题就靠词典解决,这是最高效稳定的方法。

  • 算法详解

13. 机构名识别

String[] testCase = new String[]{        "我在上海林原科技有限公司兼职工作,",        "我经常在台川喜宴餐厅吃饭,",        "偶尔去地中海影城看电影。",};Segment segment = HanLP.newSegment().enableOrganizationRecognize(true);for (String sentence : testCase){    List<Term> termList = segment.seg(sentence);    System.out.println(termList);}
  • 说明

    • 目前分词器默认关闭了机构名识别,用户需要手动开启;这是因为消耗性能,其实常用机构名都收录在核心词典和用户自定义词典中。

    • HanLP的目的不是演示动态识别,在生产环境中,能靠词典解决的问题就靠词典解决,这是最高效稳定的方法。

  • 算法详解

14. 关键词提取

String content = "程序员(英文Programmer)是从事程序开发、维护的专业人员。一般将程序员分为程序设计人员和程序编码人员,但两者的界限并不非常清楚,特别是在中国。软件从业人员分为初级程序员、高级程序员、系统分析员和项目经理四大类。";List<String> keywordList = HanLP.extractKeyword(content, 5);System.out.println(keywordList);
  • 说明

    • 内部采用 TextRankKeyword 实现,用户可以直接调用 TextRankKeyword.getKeywordList(document, size)

  • 算法详解

15. 自动摘要

String document = "算法可大致分为基本算法、数据结构的算法、数论算法、计算几何的算法、图的算法、动态规划以及数值分析、加密算法、排序算法、检索算法、随机化算法、并行算法、厄米变形模型、随机森林算法。\n" +        "算法可以宽泛的分为三类,\n" +        "一,有限的确定性算法,这类算法在有限的一段时间内终止。他们可能要花很长时间来执行指定的任务,但仍将在一定的时间内终止。这类算法得出的结果常取决于输入值。\n" +        "二,有限的非确定算法,这类算法在有限的时间内终止。然而,对于一个(或一些)给定的数值,算法的结果并不是唯一的或确定的。\n" +        "三,无限的算法,是那些由于没有定义终止定义条件,或定义的条件无法由输入的数据满足而不终止运行的算法。通常,无限算法的产生是由于未能确定的定义终止条件。";List<String> sentenceList = HanLP.extractSummary(document, 3);System.out.println(sentenceList);
  • 说明

    • 内部采用 TextRankSentence 实现,用户可以直接调用 TextRankSentence.getTopSentenceList(document, size)

  • 算法详解

16. 短语提取

String text = "算法工程师\n" +        "算法(Algorithm)是一系列解决问题的清晰指令,也就是说,能够对一定规范的输入,在有限时间内获得所要求的输出。" +        "如果一个算法有缺陷,或不适合于某个问题,执行这个算法将不会解决这个问题。不同的算法可能用不同的时间、" +        "空间或效率来完成同样的任务。一个算法的优劣可以用空间复杂度与时间复杂度来衡量。算法工程师就是利用算法处理事物的人。\n" +        "\n" +        "1职位简介\n" +        "算法工程师是一个非常高端的职位;\n" +        "专业要求:计算机、电子、通信、数学等相关专业;\n" +        "学历要求:本科及其以上的学历,大多数是硕士学历及其以上;\n" +        "语言要求:英语要求是熟练,基本上能阅读国外专业书刊;\n" +        "必须掌握计算机相关知识,熟练使用仿真工具MATLAB等,必须会一门编程语言。\n" +        "\n" +        "2研究方向\n" +        "视频算法工程师、图像处理算法工程师、音频算法工程师 通信基带算法工程师\n" +        "\n" +        "3目前国内外状况\n" +        "目前国内从事算法研究的工程师不少,但是高级算法工程师却很少,是一个非常紧缺的专业工程师。" +        "算法工程师根据研究领域来分主要有音频/视频算法处理、图像技术方面的二维信息算法处理和通信物理层、" +        "雷达信号处理、生物医学信号处理等领域的一维信息算法处理。\n" +        "在计算机音视频和图形图像技术等二维信息算法处理方面目前比较先进的视频处理算法:机器视觉成为此类算法研究的核心;" +        "另外还有2D转3D算法(2D-to-3D conversion),去隔行算法(de-interlacing),运动估计运动补偿算法" +        "(Motion estimation/Motion Compensation),去噪算法(Noise Reduction),缩放算法(scaling)," +        "锐化处理算法(Sharpness),超分辨率算法(Super Resolution),手势识别(gesture recognition),人脸识别(face recognition)。\n" +        "在通信物理层等一维信息领域目前常用的算法:无线领域的RRM、RTT,传送领域的调制解调、信道均衡、信号检测、网络优化、信号分解等。\n" +        "另外数据挖掘、互联网搜索算法也成为当今的热门方向。\n" +        "算法工程师逐渐往人工智能方向发展。";List<String> phraseList = HanLP.extractPhrase(text, 5);System.out.println(phraseList);
  • 说明

    • 内部采用 MutualInformationEntropyPhraseExtractor 实现,用户可以直接调用 MutualInformationEntropyPhraseExtractor..extractPhrase(text, size)

  • 算法详解

17. 拼音转换

/** * 汉字转拼音 * @author hankcs */public class DemoPinyin{    public static void main(String[] args)    {        String text = "重载不是重任";        List<Pinyin> pinyinList = HanLP.convertToPinyinList(text);        System.out.print("原文,");        for (char c : text.toCharArray())        {            System.out.printf("%c,", c);        }        System.out.println();        System.out.print("拼音(数字音调),");        for (Pinyin pinyin : pinyinList)        {            System.out.printf("%s,", pinyin);        }        System.out.println();        System.out.print("拼音(符号音调),");        for (Pinyin pinyin : pinyinList)        {            System.out.printf("%s,", pinyin.getPinyinWithToneMark());        }        System.out.println();        System.out.print("拼音(无音调),");        for (Pinyin pinyin : pinyinList)        {            System.out.printf("%s,", pinyin.getPinyinWithoutTone());        }        System.out.println();        System.out.print("声调,");        for (Pinyin pinyin : pinyinList)        {            System.out.printf("%s,", pinyin.getTone());        }        System.out.println();        System.out.print("声母,");        for (Pinyin pinyin : pinyinList)        {            System.out.printf("%s,", pinyin.getShengmu());        }        System.out.println();        System.out.print("韵母,");        for (Pinyin pinyin : pinyinList)        {            System.out.printf("%s,", pinyin.getYunmu());        }        System.out.println();        System.out.print("输入法头,");        for (Pinyin pinyin : pinyinList)        {            System.out.printf("%s,", pinyin.getHead());        }        System.out.println();    }}
  • 说明

    • HanLP 不仅支持基础的汉字转拼音,还支持声母、韵母、音调、音标和输入法首字母首声母功能。

    • HanLP 能够识别多音字,也能给繁体中文注拼音。

    • 最重要的是, HanLP 采用的模式匹配升级到 AhoCorasickDoubleArrayTrie ,性能大幅提升,能够提供毫秒级的响应速度!

  • 算法详解

18. 简繁转换

/** * 简繁转换 * @author hankcs */public class DemoTraditionalChinese2SimplifiedChinese{    public static void main(String[] args)    {        System.out.println(HanLP.convertToTraditionalChinese("用笔记本电脑写程序"));        System.out.println(HanLP.convertToSimplifiedChinese("「以後等妳當上皇后,就能買士多啤梨慶祝了」"));    }}
  • 说明

    • HanLP 能够识别简繁分歧词,比如 打印机=印表機 。许多简繁转换工具不能区分“以后”“皇后”中的两个“后”字, HanLP 可以。

  • 算法详解

19. 文本推荐

/** * 文本推荐(句子级别,从一系列句子中挑出与输入句子最相似的那一个) * @author hankcs */public class DemoSuggester{    public static void main(String[] args)    {        Suggester suggester = new Suggester();        String[] titleArray =        (                "威廉王子发表演说 呼吁保护野生动物\n" +                "《时代》年度人物最终入围名单出炉 普京马云入选\n" +                "“黑格比”横扫菲:菲吸取“海燕”经验及早疏散\n" +                "日本保密法将正式生效 日媒指其损害国民知情权\n" +                "英报告说空气污染带来“公共健康危机”"        ).split("\\n");        for (String title : titleArray)        {            suggester.addSentence(title);        }        System.out.println(suggester.suggest("发言", 1));       // 语义        System.out.println(suggester.suggest("危机公共", 1));   // 字符        System.out.println(suggester.suggest("mayun", 1));      // 拼音    }}
  • 说明

    • 在搜索引擎的输入框中,用户输入一个词,搜索引擎会联想出最合适的搜索词, HanLP 实现了类似的功能。

    • 可以动态调节每种识别器的权重

20. 语义距离

/** * 语义距离 * @author hankcs */public class DemoWordDistance{    public static void main(String[] args)    {        String[] wordArray = new String[]                {                        "香蕉",                        "苹果",                        "白菜",                        "水果",                        "蔬菜",                        "自行车",                        "公交车",                        "飞机",                        "买",                        "卖",                        "购入",                        "新年",                        "春节",                        "丢失",                        "补办",                        "办理",                        "送给",                        "寻找",                        "孩子",                        "教室",                        "教师",                        "会计",                };        for (String a : wordArray)        {            for (String b : wordArray)            {                System.out.println(a + "\t" + b + "\t之间的距离是\t" + CoreSynonymDictionary.distance(a, b));            }        }    }}
  • 说明

    • 设想的应用场景是搜索引擎对词义的理解,词与词并不只存在“同义词”与“非同义词”的关系,就算是同义词,它们之间的意义也是有微妙的差别的。

  • 算法

    • 为每个词分配一个语义ID,词与词的距离通过语义ID的差得到。语义ID通过《同义词词林扩展版》计算而来。

21. 依存句法解析

/** * 依存句法分析(神经网络句法模型需要-Xms1g -Xmx1g -Xmn512m) * @author hankcs */public class DemoDependencyParser{    public static void main(String[] args)    {        CoNLLSentence sentence = HanLP.parseDependency("徐先生还具体帮助他确定了把画雄鹰、松鼠和麻雀作为主攻目标。");        System.out.println(sentence);        // 可以方便地遍历它        for (CoNLLWord word : sentence)        {            System.out.printf("%s --(%s)--> %s\n", word.LEMMA, word.DEPREL, word.HEAD.LEMMA);        }        // 也可以直接拿到数组,任意顺序或逆序遍历        CoNLLWord[] wordArray = sentence.getWordArray();        for (int i = wordArray.length - 1; i >= 0; i--)        {            CoNLLWord word = wordArray[i];            System.out.printf("%s --(%s)--> %s\n", word.LEMMA, word.DEPREL, word.HEAD.LEMMA);        }        // 还可以直接遍历子树,从某棵子树的某个节点一路遍历到虚根        CoNLLWord head = wordArray[12];        while ((head = head.HEAD) != null)        {            if (head == CoNLLWord.ROOT) System.out.println(head.LEMMA);            else System.out.printf("%s --(%s)--> ", head.LEMMA, head.DEPREL);        }    }}
  • 说明

    • 内部采用 NeuralNetworkDependencyParser 实现,用户可以直接调用 NeuralNetworkDependencyParser.compute(sentence)

    • 也可以调用基于MaxEnt的依存句法分析器 MaxEntDependencyParser.compute(sentence)

  • 算法详解

词典说明

本章详细介绍 HanLP 中的词典格式,满足用户自定义的需要。 HanLP 中有许多词典,它们的格式都是相似的,形式都是文本文档,随时可以修改。

基本格式

词典分为词频词性词典和词频词典。

  • 词频词性词典

    • 每一行代表一个单词,格式遵从 [单词] [词性A] [A的频次] [词性B] [B的频次] ...

  • 词频词典

    • 每一行代表一个单词,格式遵从 [单词] [单词的频次]

    • 每一行的分隔符为空格符或制表符

少数词典有自己的专用格式,比如同义词词典兼容《同义词词林扩展版》的文本格式,而转移矩阵词典则是一个csv表格。

下文主要介绍通用词典,如不注明,词典特指通用词典。

数据结构

Trie树(字典树)是 HanLP 中使用最多的数据结构,为此,我实现了通用的Trie树,支持泛型、遍历、储存、载入。

用户自定义词典采用AhoCorasickDoubleArrayTrie和二分Trie树储存,其他词典采用基于 实现的 。

储存形式

词典有两个形态:文本文件(filename.txt)和缓存文件(filename.txt.bin或filename.txt.trie.dat和filename.txt.trie.value)。

  • 文本文件  

    • 采用明文储存,UTF-8编码,CRLF换行符。

  • 缓存文件

    • 就是一些二进制文件,通常在文本文件的文件名后面加上.bin表示。有时候是.trie.dat和.trie.value。后者是历史遗留产物,分别代表trie树的数组和值。

    • 如果你修改了任何词典,只有删除缓存才能生效。

修改方法

HanLP的核心词典训练自人民日报2014语料,语料不是完美的,总会存在一些错误。这些错误可能会导致分词出现奇怪的结果,这时请打开调试模式排查问题:

HanLP.Config.enableDebug();
  • 核心词性词频词典

    • 比如你在 data/dictionary/CoreNatureDictionary.txt 中发现了一个不是词的词,或者词性标注得明显不对,那么你可以修改它,然后删除缓存文件使其生效。

  • 核心二元文法词典

    • 二元文法词典 data/dictionary/CoreNatureDictionary.ngram.txt 储存的是两个词的接续,如果你发现不可能存在这种接续时,删掉即可。

    • 你也可以添加你认为合理的接续,但是这两个词必须同时在核心词典中才会生效。

  • 命名实体识别词典

    • 基于角色标注的命名实体识别比较依赖词典,所以词典的质量大幅影响识别质量。

    • 这些词典的格式与原理都是类似的,请阅读 或代码修改它。

如果问题解决了,欢迎向我提交一个pull request,这是我在代码库中保留明文词典的原因,众人拾柴火焰高!


版权

HanLP的初始版本于2014年初开发,原本是一个搜索项目期间的业余作品,在部分NLP开发者群中发布以后,得到了不少开发人员的鼓舞,包括上海林原公司的刘祥春先生也鼓励我把这个项目开源,随即我对HanLP项目做了进一步的完善,2015年3月HanLP终于最为一个开源项目在maven中央库以及Github上开源。

HanLP项目的初期得到了上海林原信息科技有限公司(以下简称:林原公司)的大力支持,并且林原公司还提供了HanLP项目的服务器空间,以及下载服务。因此HanLP v1.2.8及其以前的版本,我把版权授予了上海林原公司。

其后,我作为大快公司的自然语言处理项目的主要负责人,继续在自然语言处理方面从事研究和开发工作,研发了多个自然语言处理的子模块,集成在公司产品DKNLP中。不久以后,大快搜索便决定将DKNLP技术成果彻底开源,整体装入HanLP项目(由大快首席科学家汤连杰先生提议)。这让HanLP几乎脱胎换骨,使得每个模块都带来一次重大的提升,极大的丰富了其功能,HanLP的版本号也迅速提升到了v1.5.0。

因此,HanLP v1.2.8及其以前的版本经我授权,版权归上海林原公司,并在上海林源公司提供的空间上下载。

HanLP v1.3以后的版本为大快搜索主导,v1.5及其以后版本的项目说明以及下载,在大快搜索的服务器上(下载地址:hanlp.dksou.com)。HanLP项目的原始著作人和主要开发人员,始终是我,也始终遵循apache协议进行开源。感谢大家对HanLP的喜爱和支持。

Apache License Version 2.0

如不特殊注明,所有模块都以此协议授权使用。

上海林原信息科技有限公司

  • HanLP产品初始知识产权归上海林原信息科技有限公司所有,任何人和企业可以无偿使用,可以对产品、源代码进行任何形式的修改,可以打包在其他产品中进行销售。

  • 任何使用了HanLP的全部或部分功能、词典、模型的项目、产品或文章等形式的成果必须显式注明HanLP及此项目主页。

其他版权方

  • 1.5版由大快公司开源了多个模块,详见 。

  • 充分尊重所有版权方的贡献,本项目不占有这些新模块的版权。

鸣谢

感谢下列优秀开源项目:

感谢NLP界各位学者老师的著作:

  • 《基于角色标注的中国人名自动识别研究》张华平 刘群

  • 《基于层叠隐马尔可夫模型的中文命名实体识别》俞鸿魁 张华平 刘群 吕学强 施水才

  • 《基于角色标注的中文机构名识别》俞鸿魁 张华平 刘群

  • 《基于最大熵的依存句法分析》 辛霄 范士喜 王轩 王晓龙

  • An Efficient Implementation of Trie Structures, JUN-ICHI AOE AND KATSUSHI MORIMOTO

  • TextRank: Bringing Order into Texts, Rada Mihalcea and Paul Tarau

感谢上海林原信息科技有限公司的刘先生,允许我利用工作时间开发HanLP,提供服务器和域名,并且促成了开源。感谢诸位用户的关注和使用,HanLP并不完善,未来还恳求各位NLP爱好者多多关照,提出宝贵意见。 

文章来源于网络

来自 “ ITPUB博客 ” ,链接:http://blog.itpub.net/31557723/viewspace-2219051/,如需转载,请注明出处,否则将追究法律责任。

请登录后发表评论 登录
全部评论

注册时间:2018-10-10

  • 博文量
    65
  • 访问量
    45975