[发明专利]多方联合训练图神经网络的方法及装置在审
申请号: | 201911040222.5 | 申请日: | 2019-10-29 |
公开(公告)号: | CN110782044A | 公开(公告)日: | 2020-02-11 |
发明(设计)人: | 陈超超;郑龙飞;王力;周俊 | 申请(专利权)人: | 支付宝(杭州)信息技术有限公司 |
主分类号: | G06N20/20 | 分类号: | G06N20/20;G06N3/08;G06K9/62 |
代理公司: | 11309 北京亿腾知识产权代理事务所(普通合伙) | 代理人: | 陈霁;周良玉 |
地址: | 310000 浙江省杭州市*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本说明书实施例提供一种多方联合训练图神经网络的方法和装置。多方包括多个数据持有方和服务器;图神经网络包括图嵌入子网络和分类子网络。各数据持有方各自维护图嵌入子网络的一部分,服务器维护分类子网络。任意的数据持有方在其维护的图嵌入子网络中,通过多方安全计算MPC,与其他持有方联合计算样本的初级嵌入向量,并根据本地的图结构对节点进行多级邻居聚合,得到节点的高阶嵌入向量,发给服务器。服务器利用分类子网络对来自各个数据持有方的高阶嵌入向量进行综合,据此进行分类预测,确定损失。损失梯度从服务器中的分类子网络传递回数据持有方中的图嵌入子网络,实现整个图神经网络的联合训练。本发明实施例保护了各方的数据隐私。 | ||
搜索关键词: | 子网络 嵌入 服务器 神经网络 分类 向量 高阶 方法和装置 服务器维护 数据隐私 图结构 训练图 联合 聚合 样本 邻居 维护 传递 预测 安全 | ||
【主权项】:
1.一种多方联合训练图神经网络的方法,所述图神经网络包括图嵌入子网络和分类子网络,所述多方包括服务器和N个数据持有方,所述服务器维护所述分类子网络,所述N个数据持有方各自维护所述图嵌入子网络的一部分;所述N个数据持有方中任意的第一持有方存储有样本集中各个样本的第一特征部分,以及包含所述各个样本作为对应节点的第一图结构;所述第一持有方维护所述图嵌入子网络的第一网络部分,所述第一网络部分包括嵌入层和聚合层;所述方法通过该第一持有方执行,包括:/n在所述嵌入层,至少基于所述各个样本的第一特征部分,利用多方安全计算MPC方案,与其他N-1个数据持有方联合计算得到各个样本的初级嵌入向量;/n在所述聚合层,基于所述第一图结构,以及所述各个样本的初级嵌入向量,对所述各个样本执行多级聚合,以确定各个样本的高阶嵌入向量;其中每级聚合包括,对于各个样本在所述第一图结构中对应的节点,至少基于该节点的邻居节点的上一级嵌入向量,确定该节点的本级嵌入向量;/n将所述各个样本的高阶嵌入向量发送至所述服务器,以使得所述服务器利用所述分类子网络,基于所述N个数据持有方发送的高阶嵌入向量对各个样本进行分类预测,得到分类预测结果;/n从所述服务器接收损失梯度,所述损失梯度至少基于所述各个样本的分类预测结果与样本标签而确定;/n根据所述损失梯度,更新所述第一网络部分。/n
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于支付宝(杭州)信息技术有限公司,未经支付宝(杭州)信息技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201911040222.5/,转载请声明来源钻瓜专利网。