(19)国家知识产权局
(12)发明 专利申请
(10)申请公布号
(43)申请公布日
(21)申请 号 202211109339.6
(22)申请日 2022.09.13
(71)申请人 厦门半导体 工业技术研发有限公司
地址 361008 福建省厦门市软件园三期诚
毅北大街62号109单 元0206号
(72)发明人 曹国忠 张涌 萧得富
(74)专利代理 机构 北京乐知新创知识产权代理
事务所(普通 合伙) 11734
专利代理师 王睿
(51)Int.Cl.
G06N 3/063(2006.01)
G06N 3/04(2006.01)
G06F 9/445(2018.01)
G06F 12/0871(2016.01)
(54)发明名称
一种数据缓存 方法、 系统、 装置、 设备及 存储
介质
(57)摘要
本公开提供了一种数据缓存方法、 系统、 装
置、 设备及存储介质, 所述方法包括: 获取卷积神
经网络的各个卷积网络层的层号和各个层号对
应的时钟倍频数; 针对每个层号, 如果层号对应
的时钟倍频数大于1, 则在层号标识的目标卷积
网络层进行数据处理时, 将目标卷积网络层的待
处理数据拆分为N等份, 并为目标卷积网络层配
置N倍频的时钟, 以使目标卷积网络层以N倍频的
时钟依次计算N份待处理数据。 采用该方法实现
了在保证计算效率的同时降低了存算一体器件
的缓存资源浪费。
权利要求书3页 说明书15页 附图4页
CN 115358378 A
2022.11.18
CN 115358378 A
1.一种数据缓存方法, 其特征在于, 应用于由存算一体器件构 成的卷积神经网络, 所述
方法包括:
获取卷积神经网络的各个卷积网络层的层号和各个层号对应的时钟倍频 数;
针对每个层号, 如果所述层号对应的时钟倍频数大于1, 则在所述层号标识的目标卷积
网络层进 行数据处理时, 将所述目标卷积网络层的待处理数据拆 分为N等份, 并为所述目标
卷积网络层配置N倍频的时钟, 以使所述 目标卷积网络层以N倍频的时钟依 次计算N份待处
理数据;
其中, 在所述目标卷积网络层进行数据处理时所述存算一体器件中最多缓存所述目标
卷积网络层的待处理数据的N分之一; 所述存算一体器件的缓存容量大于等于所述卷积神
经网络中最大卷积网络层的最大可处理数据大小的M分之一, 且小于所述最大卷积网络层
的最大可 处理数据大小, M为所述最大卷积网络层 对应的时钟倍频数, M≥N, N为所述层号对
应的时钟倍频 数。
2.根据权利要求1所述的方法, 其特征在于, 在所述获取卷积神经网络的各个卷积网络
层的层号和各个层号对应的时钟倍频 数之前, 所述方法还 包括:
确定卷积神经网络的各个卷积网络层的最大 可处理数据量;
针对每个卷积网络层, 当所述卷积网络层的最大可处理数据量大于所述存算一体器件
的缓存容量时, 确定所述卷积网络层 对应的时钟倍频数, 并将所述时钟倍频数、 所述卷积网
络层的层号和所述卷积神经网络的网络类型进行对应存储; 其中, 所述卷积网络层的最大
可处理数据量除以所述时钟倍频 数所得的值不大于所述存算 一体器件的缓存容 量;
所述获取卷积神经网络的各个卷积网络层的层号和各个层号对应的时钟倍频数, 包
括:
获取卷积神经网络的网络类型;
从预设的网络类型与网络层的对应信 息表中, 查找与 所述网络类型相对应的各个卷积
网络层的层号和各个层号所对应的时钟倍频 数。
3.根据权利要求1所述的方法, 其特征在于, 所述针对每个层号, 如果所述层号对应的
时钟倍频数大于1, 则在所述层号标识的目标卷积网络层进 行数据处理 时, 将所述目标卷积
网络层的待处理数据拆分为N等份, 并为所述目标卷积网络层配置N倍频的时钟, 以使所述
目标卷积网络层以N 倍频的时钟依次计算 N份待处理数据, 包括:
将层号计数器置为 零;
确定所述层号计数器计数的层号所对应的时钟倍频数是否大于1; 其中, 所述层号标识
的卷积网络层为目标 卷积网络层;
如果是, 为所述目标卷积网络层配置N倍频的时钟, 将所述目标卷积网络层的待处理数
据拆分为N等份, 以使 所述目标卷积网络层以N倍频的时钟依次计算N份待处理数据, 并将所
述层号计数器的计数加1;
确定所述层号计数器 计数的层号是否与所述卷积神经网络的总层号 一致;
如果不是, 返回执行所述确定所述层号计数器计数的层号所对应的时钟倍频数是否大
于1的步骤;
如果是, 针对下一个卷积神经网络, 返回执行所述获取卷积神经网络的各个卷积网络
层的层号和各个层号对应的时钟倍频 数的步骤, 直至各个卷积神经网络的数据处 理结束。权 利 要 求 书 1/3 页
2
CN 115358378 A
24.根据权利要求3所述的方法, 其特征在于, 在所述确定所述层号计数器计数的层号所
对应的时钟倍频 数是否大于1之后, 所述方法还 包括:
如果不是, 为所述目标卷积网络层配置一倍频的时钟, 以使所述目标卷积网络层以一
倍频的时钟计算待处 理数据, 并将所述层号计数器的计数加1。
5.一种数据缓存系统, 其特征在于, 应用于由存算一体器件构 成的卷积神经网络, 所述
系统包括:
控制单元, 用于获取卷积神经网络的各个卷积网络层的层号和各个层号对应的时钟倍
频数; 针对每个层号, 如果所述层号对应的时钟倍频数大于1, 则在所述层号标识的目标卷
积网络层进 行数据处理 时, 将所述目标卷积网络层的待处理数据拆分为N等份, 并向时钟配
置单元发送针对所述目标 卷积网络层的时钟配置指令;
所述时钟配置单元, 用于在接收到所述控制单元发送的所述时钟配置指令后, 为所述
目标卷积网络层配置N倍频的时钟, 以使所述目标卷积网络层以N倍频的时钟依次计算N份
待处理数据;
行缓存单元, 用于在所述目标卷积网络层以N倍频的时钟依次计算N份待处理数据时,
缓存所述目标 卷积网络层的待处 理数据;
其中, 在所述目标卷积网络层进行数据处理时所述存算一体器件中最多缓存所述目标
卷积网络层的待处理数据的N分之一; 所述存算一体器件的缓存容量大于等于所述卷积神
经网络中最大卷积网络层的最大可处理数据大小的M分之一, 且小于所述最大卷积网络层
的最大可 处理数据大小, M为所述最大卷积网络层 对应的时钟倍频数, M≥N, N为所述层号对
应的时钟倍频 数。
6.根据权利要求5所述的系统, 其特征在于, 所述控制单元, 还用于确定卷积神经网络
的各个卷积网络层的最大可处理数据量; 针对每个卷积网络层, 当所述卷积网络层的最大
可处理数据量大于所述存算一体器件的缓存容量时, 确定所述卷积网络层 对应的时钟倍频
数, 并将所述时钟倍频数、 所述卷积网络层的层号和所述卷积神经网络的网络类型进行对
应存储; 其中, 所述卷积网络层的最大可处理数据量除以所述时钟倍频数所得的值不大于
所述存算 一体器件的缓存容 量;
所述控制单元, 具体用于获取卷积神经网络的网络类型; 从预设的网络类型与网络层
的对应信息表中, 查找与所述网络类型相对应的各个卷积网络层的层号和各个层号所对应
的时钟倍频 数。
7.一种数据缓存装置, 其特征在于, 应用于由存算一体器件构 成的卷积神经网络, 所述
装置包括:
信息获取模块, 用于获取卷积神经网络的各个卷积网络层的层号和各个层号对应的时
钟倍频数;
数据拆分模块, 用于针对每个层号, 如果所述层号对应的时钟倍频数大于1, 则在所述
层号标识的目标卷积网络层进 行数据处理时, 将所述目标卷积网络层的待处理数据拆分为
N等份, 并为所述目标卷积网络层配置N倍频的时钟, 以使 所述目标卷积网络层以N倍频的时
钟依次计算 N份待处理数据;
其中, 在所述目标卷积网络层进行数据处理时所述存算一体器件中最多缓存所述目标
卷积网络层的待处理数据的N分之一; 所述存算一体器件的缓存容量大于等于所述卷积神权 利 要 求 书 2/3 页
3
CN 115358378 A
3
专利 一种数据缓存方法、系统、装置、设备及存储介质
文档预览
中文文档
23 页
50 下载
1000 浏览
0 评论
309 收藏
3.0分
温馨提示:本文档共23页,可预览 3 页,如浏览全部内容或当前文档出现乱码,可开通会员下载原始文档
本文档由 人生无常 于 2024-03-18 16:33:22上传分享