北航提出针对红外行人检测器的漏洞挖掘技术
来自北航人工智能研究院的韦星星副教授团队设计出一种隐蔽性更强、物理实施更简单、速度更快的 “对抗红外补丁”,可用于针对红外模态的物理鲁棒性评估研究。
在计算机视觉领域,基于 DNN 的红外与可见光目标检测系统在诸多安全保障任务中得到广泛应用,而 DNN 易受对抗样本攻击的特性,天然给这些检测系统埋下了安全隐患,检测器的对抗鲁棒性也因此受到了学术界与工业界的共同关注,相关研究的发展势头强劲。
已有不少研究者针对可见光模态提出了物理鲁棒性评估技术,它们被设计在常见的物品上,有着精心设计的纹理图案,比如对抗贴纸、眼镜、衬衫和帽子等。但是,这些基于纹理的扰动对于红外模态是不起作用的。而对于同样主流的红外检测器,其虽具有同等的评估必要性,有效的物理鲁棒性评估技术却屈指可数,并且现有方法在从数字世界向真实世界进行转换实现时,具有较高的实现难度。
在最近的一篇论文中,来自北航人工智能研究院的研究者们针对红外模态展开了物理鲁棒性评估技术的研究,设计出了一种隐蔽性更强、物理实施更简单、速度更快的 “对抗红外补丁”。他们提出了一种新颖的损失函数,使其能够利用统一梯度,同时优化对抗补丁的位置与形状,并使补丁的热幅射分布更加统一。在物理实施方面,其利用气凝胶这种隔热材料实现补丁相应的热分布,只需通过剪裁粘贴便完成了对抗样本的建构。研究论文已经被 CVPR 2023 接收。



方法概览

由补丁的物理材料在红外模态下的像素值决定,在数字环境下很难对
进行操作。于是该研究将先验性的定为 0(即黑色),转而对 M 进行优化,通过学习补丁的形状与位置改善攻击性能与物理可实施性。




实验结果









结语
文章来源:机器之心
IEEE Spectrum
《科技纵览》
官方微信公众平台

