國家工業(yè)信息安全發(fā)展研究中心近日在京主辦人工智能融合發(fā)展與安全應(yīng)用研討會。國家語音及圖像識別產(chǎn)品質(zhì)量檢驗檢測中心（簡稱AI國檢中心）在會上發(fā)布首批人臉識別系統(tǒng)安全測評結(jié)果。騰訊云、京東科技、商湯科技、曠視科技、?？低暤攘覚C(jī)構(gòu)成為首批通過測評的企業(yè)。
作為人工智能領(lǐng)域最具商業(yè)價值的技術(shù)方向，人臉識別廣泛應(yīng)用在安防、金融、交通、教育等領(lǐng)域，但在技術(shù)層、應(yīng)用層仍面臨安全挑戰(zhàn)，漏洞攻擊、數(shù)據(jù)泄漏、技術(shù)濫用等問題經(jīng)常成為社會焦點。因此，作為人工智能領(lǐng)域的國家級第三方檢驗檢測機(jī)構(gòu)，AI國檢中心對人臉識別系統(tǒng)安全啟動測評工作，對市場主流人臉識別系統(tǒng)開展測試評估，規(guī)范人臉識別產(chǎn)業(yè)健康發(fā)展。
國家工業(yè)信息安全發(fā)展研究中心人工智能所副所長劉永東說，人臉識別系統(tǒng)安全風(fēng)險主要涵蓋算法安全、數(shù)據(jù)安全和應(yīng)用軟件安全等維度。本次測評對人臉識別系統(tǒng)的安全風(fēng)險提供明確的測試方法，包括算法層面的活體檢測+假體攻擊等。
清華大學(xué)人工智能研究院孵化企業(yè)瑞萊智慧高級副總裁朱萌提出兼顧“主動”和“被動”的技術(shù)防御機(jī)制。被動防御是為人臉應(yīng)用部署靜態(tài)的安全能力，比如人臉AI
防火墻，對外部訪問等進(jìn)行檢測，提升人臉系統(tǒng)抵御攻擊的能力。主動防御則是引入和強(qiáng)化安全團(tuán)隊力量，比如打造攻防演練靶場，幫助企業(yè)構(gòu)建自適應(yīng)、自生長的安全能力。
據(jù)悉，本次測評是國內(nèi)首次面向人臉識別系統(tǒng)安全性的國家級檢測與評估，依據(jù)《信息安全技術(shù)人臉比對模型安全技術(shù)規(guī)范》等現(xiàn)行和在研的有關(guān)國家和行業(yè)標(biāo)準(zhǔn)，通過呈現(xiàn)攻擊、注入攻擊等技術(shù)手段對人臉識別產(chǎn)品和服務(wù)進(jìn)行全方位測試，有效評估人臉識別的安全風(fēng)險。
