阿里揭晓新一代安全架构核心技术“AI安全诊断大师”

如同一些出生免疫力即有缺陷的人一样，AI天生也存在免疫力缺陷。例如，车辆的辅助驾驶和自动驾驶系统会因算法技术缺陷丧失识别交通指示牌的能力，成为“没有视觉系统”的汽车，从而给出错误的决策，遇到大型障碍物时“看不到”停车标志，一头撞上去。

AI模型对微小扰动很敏感，一些细微不可见的改动就可以引起算法上的巨大误差，往往带来可怕的安全威胁。基于从源头打造安全免疫力的新一代安全架构理念，最近，阿里安全发布了一项核心技术“AI安全诊断大师”，可对AI模型全面体检，“看诊开方”，让AI模型出生就自带增强型免疫力，抵御安全威胁。

“AI安全诊断大师”包括一款对AI模型安全性进行评测和防御的工具箱，对多个云上算法接口进行安全性测试后，还沉淀出一套在实际生产中能对恶意攻击进行过滤，降低安全风险的AI防火墙系统。

据阿里安全图灵实验室高级算法专家华棠介绍，“AI安全诊断大师”提供了全方位的体检与诊断开方服务，对AI模型进行体检后，通过诊断算法可能出错的特殊情形，给模型防御增强提供细化“健康”指导。

值得注意的是，这种“安全诊断”看得见。“AI安全诊断大师”提供了一个可视化界面，以模型的损失曲面分析图呈现被评估AI模型的输入扰动及响应表现，可以直观地看出AI模型的总体安全性能，曲面越平缓，AI遭遇攻击时，抵御攻击的能力更强。

（编辑：ASP站长网）