[发明专利]重复文本的检测方法及装置在审
申请号: | 201611108388.2 | 申请日: | 2016-12-06 |
公开(公告)号: | CN106649221A | 公开(公告)日: | 2017-05-10 |
发明(设计)人: | 刘鹏;赵杰;韦强申;李强 | 申请(专利权)人: | 北京锐安科技有限公司 |
主分类号: | G06F17/22 | 分类号: | G06F17/22;G06F17/27 |
代理公司: | 北京品源专利代理有限公司11332 | 代理人: | 胡彬,邓猛烈 |
地址: | 100044 北京市海淀区西小口*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明实施例公开了一种重复文本的检测方法及装置。所述方法包括获取待检测文本;将所述待检测文本区分为短文本及长文本;对所述短文本采用基于文本关联的重复检测;对所述长文本采用基于局部敏感哈希算法的重复检测。本发明实施例提供的重复文本的检测方法及装置实现了对短文本的有效的重复检测处理。 | ||
搜索关键词: | 重复 文本 检测 方法 装置 | ||
【主权项】:
一种重复文本的检测方法,其特征在于,包括:获取待检测文本;将所述待检测文本区分为短文本及长文本;对所述短文本采用基于文本关联的重复检测;对所述长文本采用基于局部敏感哈希算法的重复检测。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京锐安科技有限公司,未经北京锐安科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201611108388.2/,转载请声明来源钻瓜专利网。