XJIPC OpenIR  > 多语种信息技术研究室
深度神经网络的压缩研究
韩云飞; 蒋同海; 马玉鹏; 徐春香; 张睿
2018
Source Publication计算机应用研究
ISSN1001-3695
Volume35Issue:10Pages:2894-2897+2903
Abstract

深度神经网络中过多的参数使得自身成为高度计算密集型和内存密集型的模型,这使得深度神经网络的应用不能轻易地移植到嵌入或移动设备上以解决特殊环境下的实际需求。为了解决该问题,提出了基于网络删减、参数共享两者结合的神经网络压缩方案:首先通过删减掉权重小于阈值的网络连接,保留其重要的连接;然后使用k-means聚类算法将删减后每层的参数进行聚类,每簇内的各个参数共享该簇的中心值作为其权重。实验在MINST数据集上完成手写数字识别功能的LeNet-300-100网络和修改得到的LeNet-300–240-180-100网络分别压缩了9.5?和12.1?。基于网络删减、参数共享两者结合的神经网络压缩方案为未来在特殊环境下更丰富的基于深度神经网络的智能应用提供了可行方案。

Keyword神经网络 压缩 网络删减 参数共享
Document Type期刊论文
Identifierhttp://ir.xjipc.cas.cn/handle/365002/5203
Collection多语种信息技术研究室
环境科学与技术研究室
Affiliation1.中国科学院新疆理化技术研究所
2.新疆民族语音语言信息处理实验室
3.中国科学院大学
Recommended Citation
GB/T 7714
韩云飞,蒋同海,马玉鹏,等. 深度神经网络的压缩研究[J]. 计算机应用研究,2018,35(10):2894-2897+2903.
APA 韩云飞,蒋同海,马玉鹏,徐春香,&张睿.(2018).深度神经网络的压缩研究.计算机应用研究,35(10),2894-2897+2903.
MLA 韩云飞,et al."深度神经网络的压缩研究".计算机应用研究 35.10(2018):2894-2897+2903.
Files in This Item:
File Name/Size DocType Version Access License
深度神经网络的压缩研究.pdf(1012KB)期刊论文作者接受稿开放获取CC BY-NC-SAView Application Full Text
Related Services
Recommend this item
Bookmark
Usage statistics
Export to Endnote
Google Scholar
Similar articles in Google Scholar
[韩云飞]'s Articles
[蒋同海]'s Articles
[马玉鹏]'s Articles
Baidu academic
Similar articles in Baidu academic
[韩云飞]'s Articles
[蒋同海]'s Articles
[马玉鹏]'s Articles
Bing Scholar
Similar articles in Bing Scholar
[韩云飞]'s Articles
[蒋同海]'s Articles
[马玉鹏]'s Articles
Terms of Use
No data!
Social Bookmark/Share
File name: 深度神经网络的压缩研究.pdf
Format: Adobe PDF
All comments (0)
No comment.
 

Items in the repository are protected by copyright, with all rights reserved, unless otherwise indicated.