(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210232905.6 (22)申请日 2022.03.09 (71)申请人 宝鸡文理学院 地址 721000 陕西省宝鸡市渭滨区宝光路 44号 (72)发明人 李亚峰　孙洁琪　张文博　 (74)专利代理 机构 北京精金石知识产权代理有 限公司 1 1470 专利代理师 强红刚 (51)Int.Cl. G06V 10/764(2022.01) G06V 10/82(2022.01) G06V 10/80(2022.01) G06V 10/40(2022.01) G06V 10/54(2022.01)G06V 10/774(2022.01) G06K 9/62(2022.01) G06N 3/04(2006.01) G06N 3/08(2006.01) (54)发明名称 一种基于三维小波变换的深度卷积神经网 络分类方法 (57)摘要 本发明公开了一种基于三维小波变换的深 度卷积神经网络分类方法， 属于图像 分类和人工 智能技术领域。 该方法通过对深度卷积神经网络 中的池化层进行分析， 设计并搭建三维小波变换 模块以改进现有的池化操作,包括以下步骤： S1、 将数据集均划分为训练集与测试集； S2、 设计并 搭建三维小波变换模块； S3、 将搭建的三维小波 变换的深度卷积神经网络分别在自然图像分类 数据集以及纹理图像数据集上进行训练， 并进行 测试以验证三维小波变换模块的有效性。 该基于 三维小波变换的深度卷积神经网络分类方法， 其 核心思想是构建三维小波变换模块 以改进传统 操作， 在进行下采样时对特征信息进行重新整 合， 在尽可能保证信息流完整的前提下降低特征 图分辨率。 权利要求书3页 说明书8页 附图2页 CN 114581717 A 2022.06.03 CN 114581717 A 1.一种基于三维小波变换的深度 卷积神经网络分类方法， 通过对深度 卷积神经网络中 的池化层进 行分析， 设计并搭建三 维小波变换模块以改进现有的池化操作,其特征在于， 包 括以下步骤： S1、 准备自然图像分类数据集以及纹理数据集， 将上述的两个数据集均划分为训练集 与测试集； S2、 设计并搭建三维小波变换模块， 将其嵌入到深度卷积神经网络 中， 并利用三维小波 变换模块进行空域与通道域特 征信息重建； S3、 将搭建的三维小波变换的深度卷积神经网络分别在自然图像分类数据集以及纹理 图像数据集上进行训练， 并进行测试以验证三维小 波变换模块的有效性。 2.根据权利要求1所述的一种基于三维小波变换的深度卷积神经网络分类方法， 其特 征在于， 所述步骤S2中， 利用三维小波变换模块进行空域与通道域特征信息重建的方法进 一步包括以下 具体步骤： S21、 搭建基于二维离 散小波变换的空域池化融合层； S22、 搭建基于一维离 散小波变换的通道域池化融合层。 3.根据权利要求2所述的一种基于三维小波变换的深度卷积神经网络分类方法， 其特 征在于， 所述步骤S21中， 搭建基于二 维离散小波变换的空域池化融合层的方法进一步包括 以下具体步骤： S211、 在进行空域池化融合操作时， 首先将输入特征 利用二维离散小波 变换 进行分解， 再利用基于二 维离散小波变换的空域注意力机制将高频分量与低频分量分别进 行融合， 得到水平、 垂直以及对角三个方向的纹 理特征； S212、 进一步进行空域池化融合操作时， 利用多分支通道注意力对各类纹理特征进行 加权， 同时将小波分解时获取到的低频分量利用跳跃连接并入输出特征， 用于显著性表达 重要纹理特征的同时， 抑制 相对不重要的纹 理特征。 4.根据权利要求3所述的一种基于三维小波变换的深度卷积神经网络分类方法， 其特 征在于， 所述步骤S211 中， 基于二 维离散小波变换的空域注 意力机制的融合过程如下式(1) 和式(2)所示： Approximation,Horizontal  details,Vertical  details,Diagonal  details＝2D   DWT(X),(1) 其中， 2D DWT表示二维离散小波变换,首先将输入特征 利用二维离散小波变 换进行分解， 得到低频分量 水平方向高频分量 垂直方向高频分量 以及对角方向高频 分量 根据上述得到的高频分量与低频分量， 将高频分量的绝对值作为空域纹理注意力 权值 分别与低频分量进行相加， 得到水平纹理特征 垂直纹理特征权　利　要　求　书 1/3 页 2 CN 114581717 A 2以及对角纹理特征 并将三类纹理特 征统称为方向纹 理特征 如下式(2)所示。 Horizontal textures＝|Horizo ntal details|+Approximati on， Vertical textures＝|Ver tical details|+Approximati on， Diagonal textures＝|Dia gonal details|+Approximati on， Directional  textures＝[Horizontal  textures,Vertical  textures,Diagonal   textures ]，  (2) 5.根据权利要求3所述的一种基于三维小波变换的深度卷积神经网络分类方法， 其特 征在于， 所述 步骤S212中， 进一 步进行空域池化融合操作的过程可以表示 为： Channel att_1＝Softmax([FC_1(GAP(Directional  textures[i,:,:,:]))， i＝1,2, 3])，  (3) 如公式(3)所示， GAP为是全局平均池化， 利用多分支通道注意力对方向纹理特征进行 评估与加权， 方 向纹理特征经过全局平均池化GAP， 利用两层全连接FC_1:C →C/r→ReLU→ C， 生成对应的注意力权值 其中， C表示 通道数， r 表示压缩率； 将注意力权值映射到方向纹理特征中， 得到纹理特征 如下 式： 其中，⊙表示点乘操作， 最后， 利用跳跃链接将低频分量 与纹理 特征进行拼接 以增强表征能力， 如下式(5)所示： Mixed features＝co ncat([Textural  features,Ap proximati on]),           (5) 最后， 为空域池化融合层的输出。 6.根据权利要求2所述的一种基于三维小波变换的深度卷积神经网络分类方法， 其特 征在于， 所述步骤S22中， 搭建基于一 维离散小波变换的通道域池化融合层进一步包括以下 具体过程： 在通道域池化融合时， 首先将输入特征Y＝Mixed  features的每个像素点特征， 视为一维信号Yi,j， 并利用一维小波变换进行分解， 再利用多分支通道注意力进行融合， 用 于实现通道间的信息交 互。 7.根据权利要求6所述的一种基于三维小波变换的深度卷积神经网络分类方法， 其特 征在于， 所述 通道域特 征信息在基于一维离 散小波变换的融合过程如下式(6)所示： Li,j,Hi,j＝1D DWT(Yi,j),            (6) 其中， 1D DWT表示一维离散小波变换， 首先将空域池化融合层的输出特征Mixed   features作为通道域池化融合层的输入特征 如公式(6)所示， 首先利用一维离权　利　要　求　书 2/3 页 3 CN 114581717 A 3