(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210899516.9 (22)申请日 2022.07.28 (71)申请人 阿里巴巴 （中国） 有限公司 地址 311121 浙江省杭州市余杭区五常街 道文一西路969号3幢5层5 54室 (72)发明人 肖育豪　杨凤海　 (74)专利代理 机构 北京辰权知识产权代理有限 公司 11619 专利代理师 李小朋 (51)Int.Cl. G06F 30/20(2020.01) G06F 119/02(2020.01) (54)发明名称 模型训练的方法、 系统、 设备及存 储介质 (57)摘要 本申请提出一种模型训练的方法、 系统、 设 备及存储介质， 该方法包括： 通过应用本申请的 技术方案， 需要首先确定针对同一处理单元的识 别结果而言， 教师模型的识别结果与学生模型的 识别结果中， 识别结果更优的教师识别结果。 并 在后续利用该识别结果更优的教师识别结果对 学生模型进行模 型训练， 从而实现一种利用识别 结果更准确的训练方式来对学生模型进行训练 的目的。 进而避免了相关技术中出现的， 采用教 师模型对处理单元的所有识别结果来对学生模 型进行蒸馏所导 致的训练结果 不理想的问题。 权利要求书2页 说明书12页 附图4页 CN 115310277 A 2022.11.08 CN 115310277 A 1.一种模型训练的方法， 其特 征在于， 包括： 利用教师模型对至少一个处理单元进行识别， 得到每个处理单元对应的教师识别结 果， 以及， 利用学生模型对 所述至少一个处理单元进 行识别， 得到每个处理单元对应的学生 识别结果； 将所述教师识别结果与所述学生识别结果中， 与真值结果的差异值较小的教师训练识 别结果作为训练识别结果； 基于训练识别结果对所述学生模型进行模型训练。 2.根据权利要求1所述的方法， 其特征在于， 所述将所述教师识别结果与所述学生识别 结果中， 与真值结果的差异值较小的教师训练识别结果作为训练识别结果， 包括： 分别计算每个所述教师识别结果与对应真值结果的第一差异值； 以及， 分别计算每个 所述学生识别结果与对应真值结果的第二差异值； 将每个所述第 一差异值与 所述第二差异值中， 数值较小的差异值对应的识别结果作为 待分类识别结果； 将对应于教师识别结果的所述待分类识别结果作为所述训练识别结果。 3.根据权利要求1所述的方法， 其特征在于， 所述基于训练识别结果对所述学生模型进 行模型训练， 包括： 基于所述训练识别结果以及对应的所述真值结果， 构建损失函数； 利用所述处 理单元以及所述损失函数， 对所述学生模型进行模型训练。 4.根据权利要求1所述的方法， 其特征在于， 所述利用教师模型对至少一个处理单元进 行识别， 得到每个处理单元对应的教师识别结果， 以及， 利用学生模 型对所述至少一个处理 单元进行识别， 得到每 个处理单元对应的学生识别结果， 包括： 若所述处理单元为像素点， 利用所述教师模型对图像数据中的至少一个像素点进行识 别， 得到每一像素点对应的教师像素识别结果； 以及， 利用所述学生模型对所述图像数据中 的至少一个 像素点进行识别， 得到每一像素点对应的学生像素识别结果。 5.根据权利要求4所述的方法， 其特征在于， 在所述得到每一像素点对应的学生像素识 别结果之后， 还 包括： 获取每一像素点对应的真值像素 结果； 利用预设损失函数， 计算每一个所述教师像素识别结果与对应的所述真值像素结果的 第一像素差异值； 以及， 利用预设损失函数， 计算每一个所述学生像素识别结果与对应的所 述真值像素 结果的第二像素差异值； 基于所述第一像素差异值以及所述第二像素差异值， 生成所述训练识别结果。 6.根据权利要求5所述的方法， 其特征在于， 所述基于所述第 一像素差异值以及所述第 二像素差异值， 生成所述训练识别结果， 包括： 逐像素对比所述第 一像素差异值与 所述第二像素差异值， 并将数值较小的像素差异值 所对应的像素识别结果， 确定为当前像素点对应的待分类识别结果； 基于所述待分类识别结果， 生成所述训练识别结果。 7.根据权利要求6所述的方法， 其特征在于， 所述基于所述待分类识别结果， 生成所述 训练识别结果， 包括： 确定所述待分类识别结果中， 对应于教师识别结果的第 一识别结果； 以及， 确定所述待权　利　要　求　书 1/2 页 2 CN 115310277 A 2分类识别结果中， 对应于学生识别结果的第二识别结果； 在所述图像数据中确定出所述第 一识别结果对应的每个目标像素的第 一像素坐标， 以 及确定出 所述第二识别结果对应的每 个目标像素的第二像素坐标； 在预设图像中将所述第 一像素坐标处 的像素点的像素值赋值为第 一像素值， 以及将所 述第二像素坐标处的像素点的像素值赋值为第二像素值， 得到对比掩膜图像， 所述预设图 像与所述图像数据的尺寸相同； 基于所述对比掩膜图像， 生成所述训练识别结果。 8.根据权利要求7所述的方法， 其特征在于， 所述基于所述对比掩膜图像， 生成所述训 练识别结果， 包括： 从所述对比掩膜图像中提取所述第 一像素坐标对应的第 一像素， 并将所述第 一像素对 应的待分类识别结果作为所述训练识别结果。 9.根据权利要求1 ‑8所述的方法， 其特征在于， 所述处理单元为像素点、 文本字段或语 音音符的其中一种。 10.一种模型训练的装置， 其特 征在于， 包括： 识别模块， 被配置为利用教师模型对至少一个处理单元进行识别， 得到每个处理单元 对应的教师识别结果， 以及， 利用学生模型对所述至少一个处理单元进 行识别， 得到每个处 理单元对应的学生识别结果； 生成模块， 被配置为将所述教师识别结果与所述学生识别结果中， 与真值结果的差异 值较小的教师训练识别结果作为训练识别结果； 训练模块， 被 配置为基于训练识别结果对所述学生模型进行模型训练。 11.一种电子设备， 包括存储器、 处理器及存储在所述存储器上并可在所述处理器上运 行的计算机程序， 其特征在于， 所述处理器运行所述计算机程序以实现1 ‑9任一项所述的方 法。 12.一种计算机可读存储介质， 其上存储有计算机程序， 其特征在于， 所述程序被处理 器执行实现1‑9任一项所述的方法。权　利　要　求　书 2/2 页 3 CN 115310277 A 3