國家工業(yè)信息安全發(fā)展研究中心近日在京主辦人工智能融合發(fā)展與安全應(yīng)用研討會(huì)。國家語音及圖像識(shí)別產(chǎn)品質(zhì)量檢驗(yàn)檢測(cè)中心（簡(jiǎn)稱AI國檢中心）在會(huì)上發(fā)布首批人臉識(shí)別系統(tǒng)安全測(cè)評(píng)結(jié)果。騰訊云、京東科技、商湯科技、曠視科技、?？低暤攘覚C(jī)構(gòu)成為首批通過測(cè)評(píng)的企業(yè)。
作為人工智能領(lǐng)域最具商業(yè)價(jià)值的技術(shù)方向，人臉識(shí)別廣泛應(yīng)用在安防、金融、交通、教育等領(lǐng)域，但在技術(shù)層、應(yīng)用層仍面臨安全挑戰(zhàn)，漏洞攻擊、數(shù)據(jù)泄漏、技術(shù)濫用等問題經(jīng)常成為社會(huì)焦點(diǎn)。因此，作為人工智能領(lǐng)域的國家級(jí)第三方檢驗(yàn)檢測(cè)機(jī)構(gòu)，AI國檢中心對(duì)人臉識(shí)別系統(tǒng)安全啟動(dòng)測(cè)評(píng)工作，對(duì)市場(chǎng)主流人臉識(shí)別系統(tǒng)開展測(cè)試評(píng)估，規(guī)范人臉識(shí)別產(chǎn)業(yè)健康發(fā)展。
國家工業(yè)信息安全發(fā)展研究中心人工智能所副所長劉永東說，人臉識(shí)別系統(tǒng)安全風(fēng)險(xiǎn)主要涵蓋算法安全、數(shù)據(jù)安全和應(yīng)用軟件安全等維度。本次測(cè)評(píng)對(duì)人臉識(shí)別系統(tǒng)的安全風(fēng)險(xiǎn)提供明確的測(cè)試方法，包括算法層面的活體檢測(cè)+假體攻擊等。
清華大學(xué)人工智能研究院孵化企業(yè)瑞萊智慧高級(jí)副總裁朱萌提出兼顧“主動(dòng)”和“被動(dòng)”的技術(shù)防御機(jī)制。被動(dòng)防御是為人臉應(yīng)用部署靜態(tài)的安全能力，比如人臉AI
防火墻，對(duì)外部訪問等進(jìn)行檢測(cè)，提升人臉系統(tǒng)抵御攻擊的能力。主動(dòng)防御則是引入和強(qiáng)化安全團(tuán)隊(duì)力量，比如打造攻防演練靶場(chǎng)，幫助企業(yè)構(gòu)建自適應(yīng)、自生長的安全能力。
據(jù)悉，本次測(cè)評(píng)是國內(nèi)首次面向人臉識(shí)別系統(tǒng)安全性的國家級(jí)檢測(cè)與評(píng)估，依據(jù)《信息安全技術(shù)人臉比對(duì)模型安全技術(shù)規(guī)范》等現(xiàn)行和在研的有關(guān)國家和行業(yè)標(biāo)準(zhǔn)，通過呈現(xiàn)攻擊、注入攻擊等技術(shù)手段對(duì)人臉識(shí)別產(chǎn)品和服務(wù)進(jìn)行全方位測(cè)試，有效評(píng)估人臉識(shí)別的安全風(fēng)險(xiǎn)。
