隨著人工智能的爆發(fā)式增長，對可信品質(zhì)的關(guān)注度也提升到了前所未有的高度，各界均在不斷探索將更多的可信理念從基礎(chǔ)能力、算法技術(shù)、應(yīng)用場景和產(chǎn)品設(shè)備等不同層面進(jìn)行融合實踐，人工智能可信賴程度逐步提升。
2022年9月1-3日，世界人工智能大會于上海舉辦。在9月1日舉辦的可信AI論壇上，中國信息通信研究院聯(lián)合京東探索研究院等近30家政產(chǎn)學(xué)研單位共同發(fā)布《可信人工智能產(chǎn)業(yè)生態(tài)發(fā)展報告（2022年）》。
報告對人工智能產(chǎn)業(yè)融合可信要素的發(fā)展態(tài)勢進(jìn)行總體分析，研判發(fā)展趨勢并提出措施建議，希望能為社會各界提供借鑒和參考，助力可信人工智能產(chǎn)業(yè)生態(tài)發(fā)展。
報告主要觀點
政策發(fā)布上，全球持續(xù)探索人工智能立法，推動可信人工智能范式法制化。自2021年以來，從歐盟發(fā)布人工智能領(lǐng)域的第一份綜合性法案《人工智能法案》，到美國推出《2022算法問責(zé)法案》，再到中國深圳、上海等各地方相繼推動人工智能立法條例。各國針對人工智能算法的監(jiān)測、人工智能應(yīng)用的審查的相關(guān)監(jiān)管法規(guī)不斷增加，人工智能治理已進(jìn)入建章立制階段。
技術(shù)研究上，提升人工智能系統(tǒng)穩(wěn)定性、隱私保護(hù)技術(shù)占據(jù)可信人工智能技術(shù)研究主流，可解釋性、公平性等技術(shù)研究緊隨其后。當(dāng)前以對抗訓(xùn)練、梯度屏蔽為代表的人工智能系統(tǒng)穩(wěn)定性技術(shù)穩(wěn)步發(fā)展；以同態(tài)加密、多方安全計算、差分隱私等為代表的隱私安全技術(shù)發(fā)展迅速；可解釋性增強(qiáng)技術(shù)研究當(dāng)前仍處于初期階段，科技巨頭推出多個AI可解釋性工具及服務(wù)；提升人工智能公平性主流方法為通過構(gòu)建完整異構(gòu)數(shù)據(jù)集及引入公平?jīng)Q策量化指標(biāo)算法，以減輕決策偏差。
標(biāo)準(zhǔn)研制上，行業(yè)組織成為可信人工智能標(biāo)準(zhǔn)重要推進(jìn)者，涵蓋多個可信人工智能領(lǐng)域。國際標(biāo)準(zhǔn)化組織和國際電工委員ISO/IEC布局最早，涉及AI系統(tǒng)偏差、風(fēng)險管理、AI系統(tǒng)質(zhì)量模型、神經(jīng)網(wǎng)絡(luò)魯棒性等；電氣和電子工程師協(xié)會（IEEE）主要以隱私、可解釋為突破點；中國人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟牽頭制定了《可信AI操作指引》和《可信AI示范區(qū)管理辦法》，開展可信AI測試工具征集和可信AI試評估等落地實踐。
產(chǎn)業(yè)生態(tài)上，倫理、法律研究進(jìn)一步深入，在硬件、技術(shù)、應(yīng)用及支撐體系等層面蓬勃發(fā)展，形成兼顧穩(wěn)定性、可解釋性、隱私保護(hù)和公平性，涵蓋基礎(chǔ)硬件、技術(shù)平臺、產(chǎn)品設(shè)備、應(yīng)用場景等多元化產(chǎn)業(yè)生態(tài)。其中，基礎(chǔ)能力方面為可信AI提供可信能力、數(shù)據(jù)安全、平臺系統(tǒng)等服務(wù)。理論與技術(shù)方面主要圍繞計算機(jī)視覺、自然語言處理、智能語音等垂直領(lǐng)域，在隱私保護(hù)、數(shù)據(jù)標(biāo)注、精準(zhǔn)識別、噪聲處理等方面不斷提升算法公平性、穩(wěn)定性與可解釋性水平，有效賦能各類產(chǎn)業(yè)應(yīng)用。產(chǎn)品與設(shè)備方面目前已逐步滲透至機(jī)器人、汽車、醫(yī)療器械、
智能終端、AR/VR設(shè)備等領(lǐng)域，以“安全專網(wǎng)”“地圖引擎”“終端感知”等形式打造兼具穩(wěn)定性、合規(guī)性、可解釋性等特征的功能體系。應(yīng)用場景方面目前已涌現(xiàn)出面向隱私安全保護(hù)、風(fēng)險識別與控制、數(shù)據(jù)傳輸與共享等領(lǐng)域的諸多案例，并已在金融、醫(yī)藥、教育、制造等環(huán)節(jié)深入開展商業(yè)化應(yīng)用，加速全產(chǎn)業(yè)鏈的可信生態(tài)形成。標(biāo)準(zhǔn)測試與咨詢設(shè)計方面目前已形成較為完善的可信AI標(biāo)準(zhǔn)與評測體系，覆蓋國際、國內(nèi)、行業(yè)、團(tuán)體標(biāo)準(zhǔn)四大類，并且在可信人工智能總體框架、可解釋AI發(fā)展與實踐等領(lǐng)域陸續(xù)發(fā)布了一系列研究成果。
