基於對抗例攻擊之AI模型防禦力評估檢測

Abstract

近年來神經網絡的對抗例攻擊變得比以往更具影響力和危險性，因此人工智慧(AI)模型對於對抗例攻擊已經不再有強大的防禦能力。本研究提出了一種評估AI模型穩健性的方法。當受到13種類型的對抗性攻擊時，評估了六種常用的圖像分類CNN模型。模型的穩健性是採用相對值的評估方法，並可以作為進一步改進的參考。與之前的相關工作不同的是，我們的算法是可以讓使用者自由選擇神經網絡模型、資料集以及攻擊方式。另外，若有些使用者不想公開自己的模型架構但卻又想評估模型的防禦力，那麼我們就需要建構替代網路來完成評估黑箱模型的工作。由於本研究亦使用自己建構之替代網路模型來做模型防禦力分析，而且對於黑箱模型以及替代網路模型攻擊之誤差非常小，因此攻擊替代網路模型並分析其防禦力是可行且具參考性的。