开源AI安全用具箱AdvBox

发布时间：2022-06-27 13:08 所属栏目：53 来源：互联网

导读：对抗样本简介对抗样本(Adversarial Example Attack)是机器学习模型的一个有趣现象，攻击者通过在源数据上增加人类难以通过感官辨识到的细微改变，但是却可以让机器学习模型接受并做出错误的分类决定。一个典型的场景就是图像分类模型的对抗样本，通过在图片

　　对抗样本简介
　　对抗样本(Adversarial Example Attack)是机器学习模型的一个有趣现象，攻击者通过在源数据上增加人类难以通过感官辨识到的细微改变，但是却可以让机器学习模型接受并做出错误的分类决定。一个典型的场景就是图像分类模型的对抗样本，通过在图片上叠加精心构造的变化量，在肉眼难以察觉的情况下，让分类模型产生误判。

　　支持多种攻击模式
　　支持生成untargeted或targeted对抗样本。

　　自动优化攻击速率
　　支持手工指定以及自动调节eps，兼顾攻击成功率和对抗样本生成速度。

　　支持自定义算法
　　架构开放，可扩展性强，便于AI安全研究人员开发、调试新的攻击算法。

　　安装AdvBox
　　安装paddlepaddle
　　创建paddlepaddle环境
　　通常使用anaconda创建不同的python环境，解决python多版本不兼容的问题。目前advbox仅支持python 2.*, paddlepaddle 0.12以上。

　　conda create --name pp python=2.7
　　通过下列命令激活paddlepaddle环境

　　source activate pp
　　如果没有安装anaconda，可以通过下载安装脚本并执行。

（编辑：ASP站长网）