专利详情

看准网香港中文大学专利详情
可行域确定方法、装置、电子设备及可读存储介质
申请号
2020115345912
申请日期
2020/12/23
公布号
CN112713982A
公布日
2021/04/27
专利类型
发明公布
分类号
H04L5/00(2006.01)I
申请人
香港中文大学(深圳) 深圳市大数据研究院
发明人
陈怿 张小舟
代理机构
北京智信四方知识产权代理有限公司11519
申请人地址
广东省深圳市龙岗区龙城街道龙翔大道2001号
申请人邮编
518172
摘要
本发明公开了一种神经网络增强方法、系统及其应用,方法包括步骤:将给定的神经网络模型划分成若干个子神经网络;对每个子神经网络进行初始化处理;应用不同的数据增强方法对每个子神经网络进行训练,使每个子神经网络学到关于相同数据的不同知识;在训练过程中,计算每个子神经网络的输出的交叉熵损失函数,以及每个子神经网络的输出之间的协同训练损失函数,将交叉熵损失函数以及协同训练损失函数结合作为优化目标函数;根据优化目标函数更新每个子神经网络的权重参数,达到预设训练次数后结束训练,得到训练好的子神经网络。本发明在不显著增加甚至减少网络参数量或者浮点运算数的情况下,可实现比单个神经网络模型更好的图像分类表现和性能。