不久前，美國國度公路交通安全管理局(NHTSA)宣布了L2級自動駕駛事故數據呈文，自客歲7月以來呈文的367起碰撞事故中，搭載自動駕駛輔佐體系的車輛發生了98起嚴重事故。客歲，AI行業還爆出更驚悚的威逼，AI醫療談天機器人居然推舉病人自盡。AI技能貼近現實生活使用的背后，AI技能缺點帶來的體系威逼和技能激發的品德倫理題目，是AI行業研究者的重點課題。

　　為正確權衡AI模子的結果和魯棒性，7月18日，清華大學、阿里平安、RealAI正在“2021中國人工智能家產年會-平安人工智能專題論壇”上宣布了全新版本的AI平安匹敵攻防基準平臺，提早為AI找好“陪練”和“標尺”，打造更硬朗牢靠的AI。相較于客歲三方宣布的AIBenchmark1.0，本年AIBenchmark2.0包羅全面、體系的攻防基準，更吻合工業界的評測基準，更貼近線上的攻擊評測基準。

　　阿里、清華、RealAI宣布全新AI寧靜匹敵攻防基準平臺。

　　“新平臺由本來只有CIFAR10數據上的實驗，拓展到了ImageNet百萬級數據集上的攻防評測，越發貼近工業界的現實場景。本年還覆蓋了對模子未知情況下的遷徙攻擊，貼近線上攻擊評測。另外，本年還加了分布外的魯棒性評測，越發全面地評價模子魯棒性。”阿里高等寧靜專家越豐先容道。

　　清華大學計算機系副研討員蘇航先容，魯棒性benchmark的構建對評價人工智能模子的平安風險、推進該行業的進步具有重要意義。AIBenchmark2.0將對使用者免費供應18個ImageNet上的反抗練習模子，包羅更多的攻擊場景，籠罩幾十種典范的攻防算法，并供應了SOTA的魯棒模子，為人工智能平安的研討具有必定的推進作用，可以讓研討人員發明AI被攻擊后發生的題目，為行業供應參考，并將AI學術研討引誘至更貼近預期場景的應用研討。

　　阿里巴巴人工智能管理取可持續發展研究中心(AAIG)負責人薛暉透露表現：“我們致力于建立‘可以用、靠得住、可托、可控’的負責任手藝體系，這是阿里巴巴寧靜手藝團隊承當的高新科技創新和社會任務。由源頭構建加倍寧靜的AI體系，是打造更負責任的好高新科技中的重要一環，只有那樣才可以構建更好更寧靜的網絡空間。”