原文传递
面向自动驾驶中多模态融合感知算法的攻击和防御
| 论文题名： | 面向自动驾驶中多模态融合感知算法的攻击和防御 |
| 关键词： | 自动驾驶;多模态融合算法;对抗样本优化;蒸馏技术;防御效果 |
| 摘要： | 感知系统为自动驾驶系统提供驾驶决策依据，因此确保感知系统在自动驾驶过程中精准的识别道路目标是保障自动驾驶安全的重中之重。感知系统从相机（或激光雷达）采集图像（或点云）数据，并输入感知算法检测道路目标。随着基于图像或点云的感知算法（单模态感知算法）逐渐成熟，近年来主流技术逐渐演变到基于图像和点云融合数据的多模态感知算法，以获得更优的检测性能与鲁棒性。然而，当前针对感知算法安全问题的研究主要面向单模态感知算法，而缺乏面向多模态感知算法的认知，使得基于目前主流技术的自动驾驶系统存在明显的安全隐患。本文聚焦于自动驾驶系统多模态感知算法的安全问题，提出针对多模态感知算法的对抗攻防技术，进而为感知算法安全性能分析和提升提供关键技术积累。 在多模态算法的攻击技术方面，本文针对中期融合多模态感知算法提出了一个对抗样本优化技术，最大化目标检测输出检测框的类别、位置和角度损失，通过最小化反向传播过程中对抗样本的纹理、形状和位置差异，从而提升了白盒条件下的无目标攻击效果的同时保障对抗样本的真实性。 在多模态算法的防御技术方面，本文针对上述攻击算法探讨了特征压缩、平滑滤波与JPEG压缩三种数据层防御技术和模型层防御蒸馏技术的防御效果，实验结果表明防御蒸馏训练所得到的学生检测网络能够提升在攻击场景下的检测精度，即具有更好的鲁棒性，而其余防御方法反而降低了模型的检测精度。 基于本文提出的多模态检测算法的攻防技术，本文进一步设计并实现了一套多模态对抗攻击与防御算法评估系统。该系统能够进行实验数据集管理与任务管理，并通过可视化自动驾驶场景图像、点云和评测图表，以及对抗样本在图像与点云的攻击效果，使得研究人员能够定性与定量地评测攻防结果，达到提升算法研究过程中分析与解决问题的效率。 |
| 作者： | 黄文锋 |
| 专业： | 计算机技术 |
| 导师： | 方滨兴 |
| 授予学位： | 硕士 |
| 授予学位单位： | 广州大学 |
| 学位年度： | 2022 |
检索历史
应用推荐
