南都訊記者蔣琳以后發(fā)布“換臉”“仿聲”視頻，平臺(tái)將被要求用顯著標(biāo)識(shí)向公眾提示視頻使用了深度合成技術(shù)，否則涉嫌違規(guī)。12月11日晚，國(guó)家網(wǎng)信辦、工信部、公安部發(fā)布《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》（下稱《規(guī)定》）——繼算法推薦之后，深度合成技術(shù)也迎來單獨(dú)規(guī)范，自明年1月10日起施行。

 

　　所謂深度合成技術(shù)，是指利用深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等生成合成類算法制作文本、圖像、音頻、視頻、虛擬場(chǎng)景等信息的技術(shù)。近日火爆全網(wǎng)的聊天機(jī)器人ChatGPT，以及“換臉”、AI繪畫、虛擬主播等為人所熟知的場(chǎng)景都使用了深度合成技術(shù)。

 

　　根據(jù)《規(guī)定》，深度合成服務(wù)提供者提供智能對(duì)話、合成人聲、人臉生成、沉浸式擬真場(chǎng)景等服務(wù)，應(yīng)當(dāng)進(jìn)行顯著標(biāo)識(shí)，避免公眾混淆或者誤認(rèn)。在源頭把關(guān)上，深度合成服務(wù)提供者和應(yīng)用商店也需對(duì)合成內(nèi)容和使用者資質(zhì)具有審核責(zé)任。

 

　　深度合成服務(wù)提供者需審核合成內(nèi)容

 

　　黨中央印發(fā)的《法治社會(huì)建設(shè)實(shí)施綱要（2020－2025年）》提出，制定完善對(duì)算法推薦、深度偽造等新技術(shù)應(yīng)用的規(guī)范管理辦法。其中《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》已于今年1月施行，《規(guī)定》則是第二部專門針對(duì)算法的規(guī)范。

 

　　近日，OpenAI開發(fā)的聊天機(jī)器人ChatGPT以其遠(yuǎn)超出同類的高質(zhì)量回答和極好的交互體驗(yàn)風(fēng)靡全網(wǎng)。而就在前不久，AI繪畫才因不輸畫家的“功力”掀起了一場(chǎng)行業(yè)地震。不過，隨著深度合成技術(shù)越來越成熟，它也被應(yīng)用在了散播虛假信息、詐騙、色情內(nèi)容制作上，亟須得到規(guī)范。

 

　　《規(guī)定》要求，深度合成服務(wù)提供者和使用者不得利用深度合成服務(wù)制作、復(fù)制、發(fā)布、傳播虛假新聞信息。轉(zhuǎn)載基于深度合成服務(wù)制作發(fā)布的新聞信息的，應(yīng)當(dāng)依法轉(zhuǎn)載互聯(lián)網(wǎng)新聞信息稿源單位發(fā)布的新聞信息。

 

　　此外，深度合成服務(wù)提供者應(yīng)當(dāng)基于移動(dòng)電話號(hào)碼、身份證件號(hào)碼、統(tǒng)一社會(huì)信用代碼或者國(guó)家網(wǎng)絡(luò)身份認(rèn)證公共服務(wù)等方式，依法對(duì)深度合成服務(wù)使用者進(jìn)行真實(shí)身份信息認(rèn)證，不得向未進(jìn)行真實(shí)身份信息認(rèn)證的深度合成服務(wù)使用者提供信息發(fā)布服務(wù)。

 

　　除了對(duì)使用者進(jìn)行身份認(rèn)證，深度合成服務(wù)提供者還要加強(qiáng)深度合成內(nèi)容管理，采取技術(shù)或者人工方式對(duì)深度合成服務(wù)使用者的輸入數(shù)據(jù)和合成結(jié)果進(jìn)行審核。還明確應(yīng)用程序分發(fā)平臺(tái)應(yīng)當(dāng)落實(shí)安全管理責(zé)任，核驗(yàn)深度合成類應(yīng)用程序相關(guān)情況。

 

　　也就是說，除了深度合成服務(wù)使用者，深度合成服務(wù)提供者和應(yīng)用商店都要從源頭上對(duì)深度合成內(nèi)容提前把關(guān)，否則也要擔(dān)責(zé)。

 

　　《規(guī)范》還明確了主管部門職責(zé)，由網(wǎng)信部門負(fù)責(zé)統(tǒng)籌協(xié)調(diào)深度合成服務(wù)的治理和相關(guān)監(jiān)督管理工作；電信主管部門、公安部門依據(jù)各自職責(zé)負(fù)責(zé)深度合成服務(wù)的監(jiān)督管理工作。

 

　　使用人臉合成需取得個(gè)人單獨(dú)同意

 

　　2019年，AI“換臉”應(yīng)用ZAO一度爆紅。人們只要上傳一張自己的照片，就可以換臉成為影視劇主角。然而僅僅三天，ZAO便因涉嫌未依法依規(guī)收集使用人臉信息被工信部約談，接著直接下架。

 

　　對(duì)此，《規(guī)定》要求深度合成服務(wù)提供者和技術(shù)支持者提供人臉、人聲等生物識(shí)別信息編輯功能的，應(yīng)當(dāng)提示深度合成服務(wù)使用者依法告知被編輯的個(gè)人，并取得其單獨(dú)同意。

 

　　南都記者對(duì)比征求意見稿發(fā)現(xiàn)，《規(guī)定》還新增條款，要求具有生成或者編輯人臉、人聲等生物識(shí)別信息的模型、模板等工具的深度合成服務(wù)提供者和技術(shù)支持者，應(yīng)當(dāng)自行或者委托專業(yè)機(jī)構(gòu)開展安全評(píng)估。

 

　　值得注意的是，《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》提出，算法生成合成信息作出顯著標(biāo)識(shí)后方可繼續(xù)傳輸?！毒W(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》也要求，網(wǎng)絡(luò)音視頻信息服務(wù)提供者和網(wǎng)絡(luò)音視頻信息服務(wù)使用者利用基于深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等的新技術(shù)新應(yīng)用制作、發(fā)布、傳播非真實(shí)音視頻信息的，應(yīng)當(dāng)以顯著方式予以標(biāo)識(shí)。

 

　　類似地，在《規(guī)定》中，對(duì)深度合成內(nèi)容進(jìn)行標(biāo)識(shí)也是重要內(nèi)容之一，并進(jìn)一步具象到文本、聲音、圖像、視頻等場(chǎng)景中。

 

　　《規(guī)定》要求，深度合成服務(wù)提供者對(duì)使用其服務(wù)生成或編輯的信息內(nèi)容，應(yīng)當(dāng)添加不影響使用的標(biāo)識(shí)。提供智能對(duì)話、合成人聲、人臉生成、沉浸式擬真場(chǎng)景等生成或者顯著改變信息內(nèi)容功能的服務(wù)的，應(yīng)當(dāng)進(jìn)行顯著標(biāo)識(shí)，避免公眾混淆或者誤認(rèn)。任何組織和個(gè)人不得采用技術(shù)手段刪除、篡改、隱匿相關(guān)標(biāo)識(shí)。

 

　　“出臺(tái)《規(guī)定》，能夠劃定深度合成服務(wù)的‘底線’和‘紅線’，維護(hù)網(wǎng)絡(luò)空間良好生態(tài)。”國(guó)家網(wǎng)信辦有關(guān)負(fù)責(zé)人指出，對(duì)應(yīng)用深度合成技術(shù)提供互聯(lián)網(wǎng)信息服務(wù)制定系統(tǒng)性、專門性規(guī)定，能夠明確各類主體的信息安全義務(wù)，為促進(jìn)深度合成服務(wù)規(guī)范發(fā)展提供有力法治保障。

 

　　《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》全文