[发明专利]经压缩的递归神经网络模型在审
申请号: | 201611262293.6 | 申请日: | 2016-12-30 |
公开(公告)号: | CN107038476A | 公开(公告)日: | 2017-08-11 |
发明(设计)人: | 奥艾斯·阿尔沙里夫;罗希特·普拉卡什·普拉巴瓦尔卡尔;伊恩·C·麦格劳;安托万·让·布吕盖 | 申请(专利权)人: | 谷歌公司 |
主分类号: | G06N3/04 | 分类号: | G06N3/04;G06N3/08 |
代理公司: | 中原信达知识产权代理有限责任公司11219 | 代理人: | 周亚荣,安翔 |
地址: | 美国加利*** | 国省代码: | 暂无信息 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本申请涉及经压缩的递归神经网络模型。用于实现经压缩递归神经网络(RNN)的方法、系统和装置,所述装置包括在计算机存储介质上编码的计算机程序。系统中的一种包括经压缩RNN,经压缩RNN包括多个递归层,其中每个递归层具有相应的递归权重矩阵和相应的层间权重矩阵,并且其中至少一个递归层被压缩使得经压缩层的相应递归权重矩阵由第一经压缩权重矩阵和投影矩阵定义,并且经压缩层的相应层间权重矩阵由第二经压缩权重矩阵和投影矩阵定义。压缩可以提供许多技术优点,包括更有效地处理数据并且使用更少的数据存储的能力。 | ||
搜索关键词: | 压缩 递归 神经网络 模型 | ||
【主权项】:
一种系统,包括:由一个或多个计算机实现的经压缩递归神经网络(RNN),所述经压缩RNN包括多个递归层,其中,所述RNN的所述多个递归层中的每一个递归层被配置为:针对多个时间步长中的每一个时间步长,接收针对该时间步长的相应层输入,并且处理针对该时间步长的所述层输入,以生成针对该时间步长的相应层输出,其中,所述多个递归层中的每一个递归层具有相应的递归权重矩阵Wh和相应的层间权重矩阵Wx,以及其中所述多个递归层中的至少一个递归层被压缩,使得所述经压缩层的相应的递归权重矩阵由第一经压缩权重矩阵和投影矩阵P1定义,并且所述经压缩层的相应层间权重矩阵由第二经压缩权重矩阵和投影矩阵P1定义。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于谷歌公司,未经谷歌公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201611262293.6/,转载请声明来源钻瓜专利网。