作為人工智能領(lǐng)域的新實(shí)踐，近年來(lái)，利用深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等生成合成類(lèi)算法制作圖像、音頻、視頻、虛擬場(chǎng)景等信息的深度合成技術(shù)，已在多個(gè)領(lǐng)域大量應(yīng)用，伴隨著不斷涌現(xiàn)的使用需求，深度合成內(nèi)容數(shù)量和關(guān)注度呈現(xiàn)快速增長(zhǎng)態(tài)勢(shì)。但另一方面，惡意使用該技術(shù)生成的音視頻，也顯現(xiàn)出了巨大的破壞力，給個(gè)人、企業(yè)造成了聲譽(yù)損害和財(cái)產(chǎn)損失，也對(duì)社會(huì)、國(guó)家安全造成威脅。
近日，清華大學(xué)人工智能研究院、北京瑞萊智慧科技有限公司、清華大學(xué)智媒研究中心、國(guó)家工業(yè)信息安全發(fā)展研究中心、北京市大數(shù)據(jù)中心聯(lián)合發(fā)布《深度合成十大趨勢(shì)報(bào)告（2022）》（以下簡(jiǎn)稱(chēng)“《報(bào)告》”），從技術(shù)研究、領(lǐng)域應(yīng)用、發(fā)展趨勢(shì)等多個(gè)方面，全面深入地介紹和研判深度合成技術(shù)及應(yīng)用帶來(lái)的機(jī)遇與挑戰(zhàn)，并就其發(fā)展與治理給出切實(shí)可行的建議和措施。
多個(gè)領(lǐng)域落地應(yīng)用，深度合成內(nèi)容迎爆發(fā)式增長(zhǎng)
深度合成的圖像、視頻、音頻、文本等內(nèi)容，例如熱門(mén)影視劇片段、話(huà)題明星的換臉視頻等等，具有極強(qiáng)的娛樂(lè)性與傳播性，伴隨著技術(shù)的發(fā)展成熟，越來(lái)越多的創(chuàng)作者在互聯(lián)網(wǎng)上發(fā)布和分享深度合成內(nèi)容，數(shù)量逐年高速增長(zhǎng)。
數(shù)據(jù)說(shuō)明：在10家國(guó)內(nèi)外平臺(tái)中（愛(ài)奇藝、騰訊視頻、優(yōu)酷、嗶哩嗶哩、抖音、快手、微博、YouTube、Twitter、TikTok），以“Deepfakes”等10個(gè)中英文關(guān)鍵詞進(jìn)行檢索，并通過(guò)URL去重后，統(tǒng)計(jì)出數(shù)據(jù)結(jié)果。
以視頻為例，《報(bào)告》顯示，在國(guó)內(nèi)外主流音視頻網(wǎng)站、社交媒體平臺(tái)上，2021年新發(fā)布的深度合成視頻的數(shù)量較2017年已增長(zhǎng)10倍以上。此外，深度合成內(nèi)容關(guān)注度也呈指數(shù)級(jí)增長(zhǎng)，通過(guò)對(duì)互動(dòng)數(shù)據(jù)進(jìn)行統(tǒng)計(jì)，2021年新發(fā)布的深度合成視頻的點(diǎn)贊數(shù)已超過(guò)3億。
數(shù)據(jù)說(shuō)明：在10家國(guó)內(nèi)外平臺(tái)中（愛(ài)奇藝、騰訊視頻、優(yōu)酷、嗶哩嗶哩、抖音、快手、微博、YouTube、Twitter、TikTok），以“Deepfakes”等10個(gè)中英文關(guān)鍵詞進(jìn)行檢索，并通過(guò)URL去重后，將具有視頻分類(lèi)標(biāo)簽的數(shù)據(jù)進(jìn)行統(tǒng)計(jì)得到的分析結(jié)果
正因?yàn)槿绱?，深度合成在影視制作、廣告營(yíng)銷(xiāo)、社交娛樂(lè)等領(lǐng)域發(fā)展出多元化的商業(yè)應(yīng)用，例如AI合成主播、虛擬偶像、修復(fù)歷史老照片、影視劇本地化配音、“數(shù)字復(fù)活”已過(guò)世演員等。
一些面向公眾開(kāi)發(fā)的合成類(lèi)產(chǎn)品也陸續(xù)推出，《報(bào)告》顯示，視頻、語(yǔ)音和文本形式的服務(wù)最為普遍，例如支持風(fēng)格定制的特效視頻制作軟件等風(fēng)靡網(wǎng)絡(luò)；語(yǔ)音方向衍生出了語(yǔ)音導(dǎo)航、有聲讀物、自動(dòng)新聞播報(bào)等應(yīng)用；文本合成則在新聞報(bào)道、詩(shī)文創(chuàng)作、聊天問(wèn)答等方面發(fā)揮著重要作用。
風(fēng)險(xiǎn)加劇，技術(shù)檢測(cè)成重要應(yīng)對(duì)舉措
深度合成激發(fā)了新內(nèi)容創(chuàng)造力的同時(shí)，也帶來(lái)了新的威脅。隨著技術(shù)逐步“平民化”，不法分子可輕易偽造音頻、視頻，實(shí)施誣陷、誹謗、詐騙、勒索等違法行為，甚至捏造國(guó)家政要言論擾亂社會(huì)與政治秩序。
2021年10月，安徽合肥警方曾查獲一起非法利用深度合成技術(shù)偽造手機(jī)用戶(hù)人臉動(dòng)態(tài)視頻破解身份核驗(yàn)，為黑灰產(chǎn)業(yè)提供注冊(cè)虛擬手機(jī)卡等技術(shù)支撐的案件。近年來(lái)，類(lèi)似事件開(kāi)始更多的進(jìn)入公眾視野。
深度合成內(nèi)容模糊了真實(shí)和虛假的邊界，將對(duì)社會(huì)信任、媒體信任、政治信任產(chǎn)生巨大的影響。負(fù)面風(fēng)險(xiǎn)不斷加劇，如何有效甄別深度合成內(nèi)容就成為了關(guān)鍵，但隨著合成質(zhì)量的不斷提升，傳統(tǒng)基于生物特征的鑒別方式越來(lái)越難以發(fā)揮作用。
數(shù)據(jù)說(shuō)明：在arXiv中，論文摘要范圍內(nèi)以“GAN”等16個(gè)關(guān)鍵詞進(jìn)行檢索，統(tǒng)計(jì)圖像、視頻、音頻、文本合成領(lǐng)域的論文發(fā)表數(shù)量
《報(bào)告》顯示，目前學(xué)術(shù)界和產(chǎn)業(yè)界均已對(duì)反深偽檢測(cè)投入了大量研究，Meta（原Facebook）、谷歌、微軟等機(jī)構(gòu)均推出了深度合成視頻認(rèn)證的方法或產(chǎn)品。
構(gòu)建多維度治理機(jī)制，引導(dǎo)深度合成技術(shù)良性發(fā)展
深度合成技術(shù)的良性發(fā)展，離不開(kāi)多維度治理機(jī)制的探索。
《報(bào)告》顯示，除了發(fā)展深度偽造內(nèi)容檢測(cè)技術(shù)以外，近幾年來(lái)，針對(duì)深度合成技術(shù)惡意使用所帶來(lái)的挑戰(zhàn)，世界各國(guó)紛紛出臺(tái)相關(guān)法律法規(guī)，探索深度合成的治理路徑。國(guó)際方面，美國(guó)從聯(lián)邦和州層面進(jìn)行專(zhuān)門(mén)立法，歐盟將深度合成納入《通用數(shù)據(jù)保護(hù)條例（GDPR）》等現(xiàn)有法律框架規(guī)制。此外，德國(guó)、新加坡、英國(guó)、韓國(guó)等國(guó)家，均有適用于深度合成技術(shù)相關(guān)犯罪案件審理的法律法規(guī)。
我國(guó)也在積極探尋有效的治理機(jī)制。2019年11月起先后出臺(tái)的《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》、《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》、《中華人民共和國(guó)民法典》、《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》，均對(duì)生成合成類(lèi)內(nèi)容等提出了不同程度的監(jiān)管要求。今年1月，國(guó)家網(wǎng)信辦公布了《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定（征求意見(jiàn)稿）》，對(duì)深度合成內(nèi)容的用途、標(biāo)記、使用范圍以及濫用處罰作出了具體規(guī)定。
《報(bào)告》也建議，各方應(yīng)當(dāng)與時(shí)俱進(jìn)落實(shí)好新的規(guī)范要求，并在此前提下不斷追求技術(shù)突破，不斷開(kāi)拓深度合成技術(shù)應(yīng)用場(chǎng)景，創(chuàng)立示范標(biāo)桿，形成對(duì)人工智能行業(yè)整體的帶動(dòng)效應(yīng)，從而促進(jìn)新技術(shù)的持續(xù)健康發(fā)展。
