论文题名: | 面向自动驾驶车辆环境感知的神经网络模型压缩方法研究 |
关键词: | 自动驾驶;神经网络;模型压缩 |
摘要: | 近年来,深度学习神经网络技术不断发展,在处理图像信息相关问题上起着很大的作用。自动驾驶技术的出现,对交通安全性的提升有着很好的帮助。自动驾驶技术中,对于周围环境的感知是整个环节的第一步,只有准确及时的采集到周围环境的信息,才能保证对之后的决策环节作出很好的指导作用。而环境感知环节主要是针对摄像头提取到的周围环境的图像信息进行处理。现有的神经网络模型为了处理复杂的图像信息,通常模型的参数量非常多,对计算资源和存储空间的要求会比较大,很多在服务器平台上可以很好运行的模型直接移植到自动驾驶平台上运行速度会受到很大的限制,主要原因在于自动驾驶平台的计算力和存储容量都比较有限,而在自动驾驶的交通场景下,实时性是必不可少的要求。因此,为了保证深度神经网络模型能够实时准确的运行在自动驾驶平台上,就需要对现有的深度神经网络模型进行压缩处理,本文根据深度神经模型的结构和模型权重参数保存两个方面考虑来对深度神经网络模型进行压缩。 首先,针对神经网络模型结构的压缩研究上,本文提出了基于敏感度和尺度参数的通道剪枝方法,首先根据训练获取到的网络各层通道的尺度参数来计算各个待剪枝网络层的敏感度,然后根据敏感度确定出每一层的剪枝率,最后在逐层对网络进行剪枝操作,剪枝之后的模型进行简单的重训练以恢复精度。最后通过在自动驾驶平台JetsonXavier上进行实验验证,本文的剪枝方法可以在提高模型运行速度和压缩率的同时保证较小的精度损失。 其次,针对神经网络模型的参数存储方式的研究上,本文提出了一种动态分组的低比特权重参数量化方法,以解决现有的低比特量化方法在对权重参数进行量化之后存在的精度下降较大的问题。通过将量化之后的权重参数与未量化的权重参数之间动态分组,使得量化之后的模型参数分布接近于原始模型,并且通过在自动驾驶平台JetsonXavier上进行实验验证,得出当采用5bit来对原始网络模型进行量化之后,能够很好的压缩模型的体积,并且保证模型的精度与原始模型相近。 |
作者: | 刘嘉昕 |
专业: | 模式识别与智能系统 |
导师: | 潘峰 |
授予学位: | 硕士 |
授予学位单位: | 东北大学 |
学位年度: | 2020 |