局部可视对抗扰动生成方法

题名

局部可视对抗扰动生成方法

DOI

作者

周星宇1,2 潘志松2 胡谷雨2 段晔鑫2,3

作者单位

1.陆军工程大学通信工程学院；2.陆军工程大学指挥控制工程学院；3.陆军军事交通学院镇江校区

摘要

深度神经网络极易受到局部可视对抗扰动的攻击.文中以生成对抗网络为基础,提出局部可视对抗扰动生成方法.首先,指定被攻击的分类网络作为判别器,并在训练过程中固定参数不变.再构建生成器模型,通过优化欺骗损失、多样性损失和距离损失,使生成器产生局部可视对抗扰动,并叠加在不同输入样本的任意位置上攻击分类网络.最后,提出类别比较法,分析局部可视对抗扰动的有效性.在公开的图像分类数据集上实验表明,文中方法攻击效果较好.

关键词

对抗扰动；局部的；可视的；生成对抗网络(GAN)

刊名

人工智能研究

ISSN

3078-9753

年、卷(期)

20202

所属期刊栏目

工程技术