ITPub博客

首页 > IT职业 > IT生活 > 中文句子的词分割算法:MaxMatch

中文句子的词分割算法:MaxMatch

IT生活 作者:coyan 时间:2021-09-09 09:11:26 0 删除 编辑

今天阅读的时候,发现了一个分割句子中词语的算法:MaxMatch,这个算法在中文应用中效果很好。

这是一个贪心算法,在指定的字典(dictionary)中查找词汇并进行句子的分割。

下面是一个应用本算法的例子:

Input: 他特别喜欢北京烤鸭

Output: 他 特别 喜欢 北京烤鸭

算法的伪代码如下:

图片描述


这个算法在中文的应用中比英文好很多,因为中文词汇比英文短。


为了检验词汇分割的效果,我们可以使用词语错误率(word error rate)来衡量。

上述的算法是传统的算法。目前准确率最高的中文词汇分割算法是通过监督机器学习(supervised machine learning)训练的统计序列模型(statistical sequence model),这个我们以后再写文章详细讨论。

原文出处

来自 “ ITPUB博客 ” ,链接:https://blog.itpub.net/2236/viewspace-2808491/ ,如需转载,请注明出处,否则将追究法律责任。

下一篇: php-fpm报错
请登录后发表评论 登录
全部评论

注册时间:2019-07-11

  • 博文量
    271
  • 访问量
    16164