[发明专利]具有神经处理单元可动态配置以执行多种数据尺寸的神经网络单元

摘要

一神经网络单元，包括缓存器，第一存储器，第二存储器与一神经处理单元阵列。缓存器装载一指针指定窄/宽配置。当指针指定窄/宽配置时，第一存储器分别装载2N个窄的或N个宽的权重文字的列，第二存储器分别装载2N个窄的或N个宽的数据文字的列，神经处理单元阵列分别作为2N个窄的或N个宽的神经处理单元，并从第一存储器与第二存储器分别接收2N个窄的或N个宽的权重文字的列以及2N个窄的或N个宽的数据文字的列。当指针指定为窄配置时，2N个神经处理单元执行窄算术运算。当指针指定为宽配置时，N个神经处理单元执行宽算术运算。

主权项

1.一种神经网络单元，其特征在于，包括：一缓存器，以装载一指针，该指针指定窄配置与宽配置；一第一存储器，当该指针指定该窄配置或该宽配置时，分别装载2N个窄权重文字的列或N个宽权重文字的列；一第二存储器，当该指针指定该窄配置或该宽配置时，分别装载2N个窄数据文字的列或N个宽数据文字的列；以及一个神经处理单元(NPU)阵列，当该指针指定该窄配置或该宽配置时，该阵列分别作为2N个窄神经处理单元或N个宽神经处理单元，并用以从该第一存储器接收该2N个窄权重文字的列或该N个宽权重文字的列，以及从该第二存储器接收该2N个窄数据文字的列或该N个宽数据文字的列；其中，当该指针指定该窄配置时，该2N个神经处理单元用以对于从该第一存储器与该第二存储器接收的该2N个窄权重文字与该2N个窄数据文字执行窄算术运算；其中，当该指针指定该宽配置时，该N个神经处理单元用以对于从该第一存储器与该第二存储器接收的该N个宽权重文字与该N个宽数据文字执行宽算术运算；其中，各该神经处理单元包括一算术单元与一累加器，其中，该算术单元对于从该第一存储器与该第二存储器接收的该2N个窄权重文字与该2N个窄数据文字执行该窄算术运算，或对于从该第一存储器与该第二存储器接收的该N个宽权重文字与该N个宽数据文字执行该宽算术运算，该累加器将该算术单元的结果累加出一累加值，该神经网络单元还包括：多个启动函数单元，对于该累加值执行启动函数，而在该指针指定该窄配置或该宽配置时，分别产生2N个窄结果或N个宽结果；其中，当该指针指定该窄配置或该宽配置时，将该2N个窄结果或该N个宽结果分别写回该第一存储器或该第二存储器。