首页 > 人工智能 > 自然语言 > 自然语言处理技术是怎么进入新阶段的?
深度学习技术根本地改变了自然语言处理技术,使之进入崭新的发展阶段,主要体现在以下几个方面:
①神经网络的端对端训练使自然语言处理技术不需要人工进行特征抽取,只要准备好足够的标注数据 ( 如机器翻译的双语对照语料 ) ,利用神经网络就可以得到一个现阶段最好的模型;
②词嵌入 (word embedding) 的思想使得词汇、短语、句子乃至篇章的表达可以在大规模语料上进行训练,得到一个在多维语义空间上的表达,使得词汇之间、短语之间、句子之间乃至篇章之间的语义距离可以计算;
③基于神经网络训练的语言模型可以更加精准地预测下一个词或一个句子的出现概率;gendan5.com/currencycode.html
④循环神经网络 (RNN 、 LSTM 、 GRU) 可以对一个不定长的句子进行编码,描述句子的信息;
⑤编码—解码 (encoder-decoder) 技术可以实现一个句子到另外一个句子的变换,这个技术是神经机器翻译、对话生成、问答、转述的核心技术;
⑥强化学习技术使得自然语言系统可以通过用户或者环境的反馈调整神经网络各级的参数,从而改进系统性能。
来自 “ ITPUB博客 ” ,链接:https://blog.itpub.net/70014563/viewspace-2923273/ ,如需转载,请注明出处,否则将追究法律责任。