[发明专利]一种基于重置训练数据传输网络的分布式训练方法及系统在审
申请号: | 202010056054.5 | 申请日: | 2020-01-17 |
公开(公告)号: | CN113138832A | 公开(公告)日: | 2021-07-20 |
发明(设计)人: | 李杨;张曼妮;张翔宇;孙军欢 | 申请(专利权)人: | 深圳致星科技有限公司 |
主分类号: | G06F9/455 | 分类号: | G06F9/455;G06N20/00;H04L12/24 |
代理公司: | 深圳市力道知识产权代理事务所(普通合伙) 44507 | 代理人: | 何姣 |
地址: | 518000 广东省深圳市南山区粤海街道高新*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明提供一种基于重置训练数据传输网络的分布式训练方法及系统。其中,首先提供一种在分布式训练过程中重置训练数据传输网络的方法,通过使所有运行着训练进程的虚拟节点构成一个逻辑环和分别从逻辑环的起始节点起向下游的正向、从终止节点起向上游的反向收集全局RDMA网络配置,以及各节点训练进程根据全局RDMA网络配置重置训练集群中的训练数据传输网络配置为RDMA网络,实现在分布式训练过程中的训练数据传输网络重置;进而在此基础上,提供一种基于高效通信网络的加速分布式训练方法以及加速分布式训练系统,实现训练过程中以高效RDMA网络进行训练数据传输的加速分布式训练。 | ||
搜索关键词: | 一种 基于 重置 训练 数据传输 网络 分布式 方法 系统 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于深圳致星科技有限公司,未经深圳致星科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202010056054.5/,转载请声明来源钻瓜专利网。
- 上一篇:同位素分段压裂示踪技术
- 下一篇:移动设备定位系统、相关方法、装置及设备