[发明专利]中文文本的分词方法及装置在审
申请号: | 201710580701.0 | 申请日: | 2017-07-17 |
公开(公告)号: | CN107402916A | 公开(公告)日: | 2017-11-28 |
发明(设计)人: | 晋彤 | 申请(专利权)人: | 广州特道信息科技有限公司 |
主分类号: | G06F17/27 | 分类号: | G06F17/27 |
代理公司: | 广州三环专利商标代理有限公司44202 | 代理人: | 梁顺宜,郝传鑫 |
地址: | 510000 广东省广州市越秀*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明实施例公开了一种中文文本的分词方法及装置,通过采集具有多元语义的网络词库,根据不同领域对所述网络词库进行训练,然后接收待分词文本,根据所述网络词库进行匹配处理后对所述待分词文本进行初始分词,对所述待分词文本进行初始分词后,对所述待分词文本进行特征提取,从而获得所述待分词文本的领域特征,再根据所述待分词文本的领域特征,对所述待分词文本的词条进行权重调整从而获得第一分词结果,接着将所述第一分词结果中的长词通过缩写模型进行简化处理获得缩写词,将所述缩写词与所述多元语义的网络词库进行匹配校验,能有效解决现有词库较为简单不能有效分词的问题,能得到准确性更高的分词结果。 | ||
搜索关键词: | 中文 文本 分词 方法 装置 | ||
【主权项】:
一种中文文本的分词方法,其特征在于,包括步骤:采集具有多元语义的网络词库,根据不同领域对所述网络词库进行训练;接收待分词文本,根据所述网络词库进行匹配处理后对所述待分词文本进行初始分词;对所述待分词文本进行初始分词后,对所述待分词文本进行特征提取,从而获得所述待分词文本的领域特征;根据所述待分词文本的领域特征,对所述待分词文本的词条进行权重调整从而获得第一分词结果;将所述第一分词结果中的长词通过缩写模型进行简化处理获得缩写词,将所述缩写词与所述多元语义的网络词库进行匹配校验。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于广州特道信息科技有限公司,未经广州特道信息科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201710580701.0/,转载请声明来源钻瓜专利网。
- 上一篇:多层语义的网络词库的生成方法及装置
- 下一篇:藏文短文本情感分析方法及装置