不久前，美國(guó)國(guó)度公路交通安全管理局(NHTSA)宣布了L2級(jí)自動(dòng)駕駛事故數(shù)據(jù)呈文，自客歲7月以來(lái)呈文的367起碰撞事故中，搭載自動(dòng)駕駛輔佐體系的車輛發(fā)生了98起嚴(yán)重事故。客歲，AI行業(yè)還爆出更驚悚的威逼，AI醫(yī)療談天機(jī)器人居然推舉病人自盡。AI技能貼近現(xiàn)實(shí)生活使用的背后，AI技能缺點(diǎn)帶來(lái)的體系威逼和技能激發(fā)的品德倫理題目，是AI行業(yè)研究者的重點(diǎn)課題。

　　為正確權(quán)衡AI模子的結(jié)果和魯棒性，7月18日，清華大學(xué)、阿里平安、RealAI正在“2021中國(guó)人工智能家產(chǎn)年會(huì)-平安人工智能專題論壇”上宣布了全新版本的AI平安匹敵攻防基準(zhǔn)平臺(tái)，提早為AI找好“陪練”和“標(biāo)尺”，打造更硬朗牢靠的AI。相較于客歲三方宣布的AIBenchmark1.0，本年AIBenchmark2.0包羅全面、體系的攻防基準(zhǔn)，更吻合工業(yè)界的評(píng)測(cè)基準(zhǔn)，更貼近線上的攻擊評(píng)測(cè)基準(zhǔn)。

　　阿里、清華、RealAI宣布全新AI寧?kù)o匹敵攻防基準(zhǔn)平臺(tái)。

　　“新平臺(tái)由本來(lái)只有CIFAR10數(shù)據(jù)上的實(shí)驗(yàn)，拓展到了ImageNet百萬(wàn)級(jí)數(shù)據(jù)集上的攻防評(píng)測(cè)，越發(fā)貼近工業(yè)界的現(xiàn)實(shí)場(chǎng)景。本年還覆蓋了對(duì)模子未知情況下的遷徙攻擊，貼近線上攻擊評(píng)測(cè)。另外，本年還加了分布外的魯棒性評(píng)測(cè)，越發(fā)全面地評(píng)價(jià)模子魯棒性。”阿里高等寧?kù)o專家越豐先容道。

　　清華大學(xué)計(jì)算機(jī)系副研討員蘇航先容，魯棒性benchmark的構(gòu)建對(duì)評(píng)價(jià)人工智能模子的平安風(fēng)險(xiǎn)、推進(jìn)該行業(yè)的進(jìn)步具有重要意義。AIBenchmark2.0將對(duì)使用者免費(fèi)供應(yīng)18個(gè)ImageNet上的反抗練習(xí)模子，包羅更多的攻擊場(chǎng)景，籠罩幾十種典范的攻防算法，并供應(yīng)了SOTA的魯棒模子，為人工智能平安的研討具有必定的推進(jìn)作用，可以讓研討人員發(fā)明AI被攻擊后發(fā)生的題目，為行業(yè)供應(yīng)參考，并將AI學(xué)術(shù)研討引誘至更貼近預(yù)期場(chǎng)景的應(yīng)用研討。

　　阿里巴巴人工智能管理取可持續(xù)發(fā)展研究中心(AAIG)負(fù)責(zé)人薛暉透露表現(xiàn)：“我們致力于建立‘可以用、靠得住、可托、可控’的負(fù)責(zé)任手藝體系，這是阿里巴巴寧?kù)o手藝團(tuán)隊(duì)承當(dāng)?shù)母咝驴萍紕?chuàng)新和社會(huì)任務(wù)。由源頭構(gòu)建加倍寧?kù)o的AI體系，是打造更負(fù)責(zé)任的好高新科技中的重要一環(huán)，只有那樣才可以構(gòu)建更好更寧?kù)o的網(wǎng)絡(luò)空間。”