南京大学PASA大数据实验室论文被国际人工智能顶级会议NeurIPS 2022录用

近日，南京大学PASA大数据实验室在自动化对抗训练方向的论文“A2: Efficient Automated Attacker for Boosting Adversarial Training”被国际人工智能顶级会议 NeurIPS 2022录用，并获得了Spotlight论文称号。该论文利用AutoML自动化机器学习的思想，实现对抗训练过程中对抗样本的自动化生成，可以显著改善对抗样本生成效率以及提升模型的鲁棒性。论文作者来自南京大学PASA大数据实验室和蚂蚁金服天筭安全实验室，主要工作由PASA大数据实验室研究生许卓尔完成，论文指导教师为朱光辉博士。

NeurIPS 2022会议的全称是Thirty-sixth Conference on Neural Information Processing Systems,（第36届神经信息处理大会），将于2022年11月29日-12月1日在美国新奥尔良召开。NeurIPS是中国计算机学会CCF推荐的A类国际学术会议，也是人工智能领域最顶级的国际会议之一。这次会议共收到10,411篇论文投稿，录用率为25.6%，其中Spotlight论文比例不超过5%。

本论文工作首先通过总结梳理已有生成扰动的攻击器，设计包含攻击方法和攻击步长的攻击空间。然后，研究设计可微的控制器，指导在攻击空间中的搜索过程，为每个样例和当前防守模型自动生成最优的扰动。大量实验结果表明，A2 能够更加高效地生成攻击性更强的对抗样本，性能优于已有的对抗样本生成方法。另外，A2也能够显著的提升防守模型的鲁棒性。