本文已被:浏览 568次 下载 269次 |
|
面向星上目标提取的卷积神经网络优化技术 |
卢丹1,孙永岩1,郑幸飞2,3,齐保贵2,3,师皓2,3
|
1.上海卫星工程研究所,上海201109;2.北京理工大学 信息与电子学院 雷达技术研究所,北京100081;3.嵌入式实时信息处理技术北京市重点实验室,北京100081
|
|
摘要: |
针对卷积神经网络规模庞大、参数数量众多、在资源受限的在轨场景中难以应用的问题,提出了一种基于知识蒸馏的剪枝压缩改进方法。该方法对训练好的网络进行基于权重和基于通道的混合参数剪枝,在保留网络重要连接的同时剔除冗余信息;采用知识蒸馏法,用原始网络学到的知识指导剪枝后网络的再训练过程,以恢复损失的精度;在遥感数据集上对VGG-16分类网络进行实验。结果表明:所提方法可以实现16~18倍的压缩效果,并且网络精度下降不到1%。这使得卷积神经网络的在轨应用成为可能,具有理论及现实意义。 |
(1.Shanghai Institute of Satellite Engineering, Shanghai 201109, China;2.Radar Research Lab, School of Information and Electronics, Beijing Institute of Technology, Beijing 100081, China;3.Beijing Key Laboratory of Embedded Real-Time Information Processing Technology, Beijing 100081, China)
|