[发明专利]一种基于MapReduce的度量空间相似连接处理方法在审
| 申请号： | 201611173516.1 | 申请日： | 2016-12-16 |
| 公开（公告）号： | CN106777133A | 公开（公告）日： | 2017-05-31 |
| 发明（设计）人： | 高云君;杨克宇;陈璐;陈刚;陈纯 | 申请（专利权）人： | 浙江大学 |
| 主分类号： | G06F17/30 | 分类号： | G06F17/30 |
| 代理公司： | 杭州求是专利事务所有限公司33200 | 代理人： | 邱启旺 |
| 地址： | 310058 浙江*** | 国省代码： | 浙江;33 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本发明公开了一种基于MapReduce的度量空间相似连接处理方法。本发明基于MapReduce分布式计算框架，设计高效的度量空间相似连接处理方法，对重复冗余的数据进行检测和删除。本发明先在Map阶段对给定的数据集进行划分，而后在Reduce阶段进行相似性计算以得到重复数据结果，进而进行删除。在Map阶段，本发明对数据集进行采样；根据样本数据获得高质量的支枢点；将整个度量空间中的数据集通过支枢点映射到向量空间；最后利用基于KD树的划分技术，对数据集进行尽可能均匀的划分。在Reduce阶段，本发明利用区域过滤和平面扫描法技术，实现对数据进行带有效剪枝的相似度计算，得到相似连接处理的结果。本发明极大地提高了相似连接处理效率，提供了最佳的性能。 | ||
| 搜索关键词： | 一种 基于 mapreduce 度量 空间 相似 连接 处理 方法 | ||
【主权项】：
一种基于MapReduce的度量空间相似连接处理方法，其特征在于，该方法的步骤如下：(1)对应用中给定的度量空间数据集进行随机采样，得到样本数据。(2)对得到的样本数据进行支枢点选择。(3)将应用中给定的整个数据集(包括样本数据)从度量空间映射至向量空间。(4)利用步骤(3)中得到的映射到向量空间的样本数据构建KD树，得到相应的空间划分。(5)在Map阶段，根据步骤(4)中得到的空间划分，对步骤(3)中得到的整个数据集进行划分。(6)在Reduce阶段对划分后的数据进行相似度计算，得到相似连接的处理结果。
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于浙江大学，未经浙江大学许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/201611173516.1/，转载请声明来源钻瓜专利网。
- 上一篇：数据处理方法及装置
- 下一篇：一种在客户端向用户推荐常用数据的方法
