近日，國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》(簡稱《規(guī)定》)，自2023年1月10日起施行。其中，《規(guī)定》明確了提供智能對話、合成人聲、人臉生成、沉浸式擬真場景等生成或者顯著改變信息內(nèi)容功能的服務(wù)的，應(yīng)當(dāng)進行顯著標(biāo)識，避免公眾混淆或者誤認(rèn)。
何為深度合成技術(shù)？
深度合成技術(shù)，主要是指利用深度學(xué)習(xí)、內(nèi)容合成、虛擬現(xiàn)實、人臉合成、語音合成等生成合成類算法制作文本、圖像、音頻、視頻、虛擬場景等網(wǎng)絡(luò)信息的技術(shù)，包括但不僅限于文本風(fēng)格轉(zhuǎn)換、問答對話、文本轉(zhuǎn)語音、語音轉(zhuǎn)換、場景聲編輯、人臉操控、人臉替換、人臉操控、圖像生成、數(shù)字仿真、編輯數(shù)字人物和虛擬場景等等。
換句話來說，對于從事元宇宙、人臉合成、虛擬場景等相關(guān)深度合成服務(wù)的創(chuàng)業(yè)公司來說影響較大，如深度合成服務(wù)提供者應(yīng)當(dāng)落實信息安全主體責(zé)任，建立算法機制機理審核、信息發(fā)布審核、數(shù)據(jù)安全、個人信息保護、反電信網(wǎng)絡(luò)詐騙等管理制度，具有安全可控的技術(shù)保障措施；深度合成服務(wù)提供者應(yīng)當(dāng)加強深度合成內(nèi)容管理，采取技術(shù)或者人工方式對深度合成服務(wù)使用者的輸入數(shù)據(jù)和合成結(jié)果進行審核等。
規(guī)定明確哪些內(nèi)容？
《規(guī)定》總共有“五章二十五條”，主要明確在中華人民共和國境內(nèi)應(yīng)用深度合成技術(shù)提供互聯(lián)網(wǎng)信息服務(wù)(簡稱深度合成服務(wù))，適用本規(guī)定。法律、行政法規(guī)另有規(guī)定的，依照其規(guī)定。提供深度合成服務(wù)，應(yīng)當(dāng)遵守法律法規(guī)，尊重社會公德和倫理道德，堅持正確政治方向、輿論導(dǎo)向、價值取向，促進深度合成服務(wù)向上向善。
另外，深度合成服務(wù)提供者和使用者不得利用深度合成服務(wù)制作、復(fù)制、發(fā)布、傳播虛假新聞信息。轉(zhuǎn)載基于深度合成服務(wù)制作發(fā)布的新聞信息的，應(yīng)當(dāng)依法轉(zhuǎn)載互聯(lián)網(wǎng)新聞信息稿源單位發(fā)布的新聞信息。
在第三章數(shù)據(jù)和技術(shù)管理規(guī)范中，《規(guī)定》明確深度合成服務(wù)提供者和技術(shù)支持者提供人臉、人聲等
生物識別信息編輯功能的，應(yīng)當(dāng)提示深度合成服務(wù)使用者依法告知被編輯的個人，并取得其單獨同意。與此同時，深度合成服務(wù)提供者和技術(shù)支持者還應(yīng)當(dāng)加強技術(shù)管理，定期審核、評估、驗證生成合成類算法機制機理。
深度合成服務(wù)提供者提供“五大”深度合成服務(wù)，可能導(dǎo)致公眾混淆或者誤認(rèn)的，應(yīng)當(dāng)在生成或者編輯的信息內(nèi)容的合理位置、區(qū)域進行顯著標(biāo)識，向公眾提示深度合成情況，如智能對話、智能寫作等模擬自然人進行文本的生成或者編輯服務(wù)；合成人聲、仿聲等語音生成或者顯著改變個人身份特征的編輯服務(wù)；人臉生成、人臉替換、人臉操控、姿態(tài)操控等人物圖像、視頻生成或者顯著改變個人身份特征的編輯服務(wù)；沉浸式擬真場景等生成或者編輯服務(wù)以及其他具有生成或者顯著改變信息內(nèi)容功能的服務(wù)。
顯而易見，新規(guī)明顯提高了合規(guī)要求和合規(guī)成本，因此，對于提供深度合成服務(wù)的創(chuàng)業(yè)公司來說影響可能較大。有行業(yè)人士稱，《規(guī)定》雖然目前只做了相對寬泛的限制，但是至少未來有不法分子利用人工智能(AI)從事不法行為時可以有法可依、有據(jù)可依。
強化個人“隱私保護”
隨著人工智能(AI)技術(shù)的深入發(fā)展與融合應(yīng)用，為人們帶來智能、便捷、新場景體驗的同時，也給一些不法分子提供了可乘之機。例如基于深度合成技術(shù)的“AI換臉”廣泛出現(xiàn)在應(yīng)用軟件、短視頻平臺及社交媒體平臺。僅需上傳照片，就能在線體驗百變換裝、性別轉(zhuǎn)換，乃至預(yù)測和伴侶未來孩子的長相。如不加以合規(guī)使用，可能會侵害社會交往的基礎(chǔ)信任，損害公眾的名譽權(quán)、榮譽權(quán)等，進而影響到傳播秩序和社會秩序。
《規(guī)定》出臺之后，未經(jīng)他人同意情況下，人工智能模型的訓(xùn)練不能隨意使用未經(jīng)同意的人臉、聲音等帶有生物特征的數(shù)據(jù)，使用他人照片進行AI換臉內(nèi)容制作將是違規(guī)行為?！兑?guī)定》中對于人臉、聲音等生物特征信息的使用提出明確的前提條件，一定程度上可以解決這個問題。
