當(dāng)真假交融難辨，眼見不再為實(shí)，如何規(guī)范化身雙刃劍的深度合成技術(shù)應(yīng)用便成為了關(guān)鍵。

 

　　日前，國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部聯(lián)合發(fā)布了《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》（以下簡(jiǎn)稱《規(guī)定》）。《規(guī)定》明確了深度合成服務(wù)的一般規(guī)定、數(shù)據(jù)和技術(shù)管理規(guī)范以及監(jiān)督檢查與法律責(zé)任等內(nèi)容。

 

　　國家互聯(lián)網(wǎng)信息辦公室有關(guān)負(fù)責(zé)人指出，深度合成服務(wù)治理需要政府、企業(yè)、社會(huì)、網(wǎng)民等多方主體共同參與，推動(dòng)深度合成技術(shù)的依法、合理、有效使用，積極防范化解深度合成技術(shù)帶來的風(fēng)險(xiǎn)，促進(jìn)互聯(lián)網(wǎng)信息服務(wù)健康發(fā)展，維護(hù)網(wǎng)絡(luò)空間良好生態(tài)。

 

　　受訪專家告訴南方財(cái)經(jīng)全媒體記者，從目前我國正處于推動(dòng)數(shù)字化轉(zhuǎn)型，倡導(dǎo)文化產(chǎn)業(yè)數(shù)字化發(fā)展的大背景下，規(guī)范深度合成技術(shù)，并且出臺(tái)有關(guān)人工智能治理的相關(guān)法規(guī)正是應(yīng)有之義，不僅能夠有利于我國數(shù)字經(jīng)濟(jì)發(fā)展，而且能夠維護(hù)網(wǎng)絡(luò)空間良好生態(tài)，為之后的進(jìn)一步發(fā)展打下堅(jiān)實(shí)的基礎(chǔ)。

 

　　劃定深度合成服務(wù)的“底線”和“紅線”

 

　　AI聊天機(jī)器人、AI繪畫、AI換臉、虛擬數(shù)字人、修復(fù)影像、合成語音……近年來深度合成技術(shù)應(yīng)用場(chǎng)景正不斷豐富。

 

　　據(jù)介紹，深度合成技術(shù)是指利用深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等生成合成類算法制作文本、圖像、音頻、視頻、虛擬場(chǎng)景等網(wǎng)絡(luò)信息的技術(shù)。

 

　　中國互聯(lián)網(wǎng)協(xié)會(huì)研究中心副主任、北京師范大學(xué)博士生導(dǎo)師吳沈括告訴南方財(cái)經(jīng)全媒體記者，深度合成技術(shù)在影視制作、社交娛樂、新聞宣傳、教育和電子商務(wù)等方面應(yīng)用較多。商業(yè)上有豐富用戶體驗(yàn)，增強(qiáng)用戶粘性，拓展應(yīng)用場(chǎng)景和增強(qiáng)業(yè)務(wù)生態(tài)等多重價(jià)值。

 

　　《深度合成十大趨勢(shì)報(bào)告（2022）》顯示，在國內(nèi)外主流音視頻網(wǎng)站、社交媒體平臺(tái)上，2021年新發(fā)布的深度合成視頻的數(shù)量較2017年已增長超過10倍。此外，深度合成內(nèi)容關(guān)注度也呈指數(shù)級(jí)增長，通過對(duì)互動(dòng)數(shù)據(jù)進(jìn)行統(tǒng)計(jì)，2021年新發(fā)布的深度合成視頻的點(diǎn)贊數(shù)已超過3億。

 

　　然而，在深度合成技術(shù)向社會(huì)生活的各個(gè)領(lǐng)域滲透之時(shí)，其所帶來的負(fù)面風(fēng)險(xiǎn)也日漸顯現(xiàn)且逐步產(chǎn)生實(shí)質(zhì)危害。

 

　　近兩年，浙江、江蘇、河南等多地就出現(xiàn)了不少利用深度合成技術(shù)實(shí)施犯罪的“變臉”詐騙案。這些案件的作案流程頗為雷同：不法分子非法獲取他人照片或有償收購他人聲音等“物料”，僅需少量音視頻樣本數(shù)據(jù)，便可合成媲美真人的偽造音視頻，用來實(shí)施精準(zhǔn)詐騙，侵害他人人身和財(cái)產(chǎn)安全。

 

　　國家網(wǎng)信辦在答記者問時(shí)指出，深度合成服務(wù)在滿足用戶需求、改進(jìn)用戶體驗(yàn)的同時(shí)，也被一些不法人員用于制作、復(fù)制、發(fā)布、傳播違法信息，詆毀、貶損他人名譽(yù)、榮譽(yù)，仿冒他人身份實(shí)施詐騙等違法行為，影響傳播秩序和社會(huì)秩序，損害人民群眾合法權(quán)益，危害國家安全和社會(huì)穩(wěn)定。出臺(tái)《規(guī)定》，能夠劃定深度合成服務(wù)的“底線”和“紅線”，維護(hù)網(wǎng)絡(luò)空間良好生態(tài)。

 

　　事實(shí)上，在《法治社會(huì)建設(shè)實(shí)施綱要（2020—2025年）》中就曾明確提出制定完善對(duì)算法推薦、深度偽造等新技術(shù)應(yīng)用的規(guī)范管理辦法。其中，《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》第一個(gè)正式出臺(tái)的規(guī)制算法推薦運(yùn)用的部門規(guī)章，已于今年3月施行。《規(guī)定》則是第二部專門針對(duì)算法的規(guī)范。

　　早在今年初，國家網(wǎng)信辦就已針對(duì)深度合成管理征求意見。直至年末，《規(guī)定》正式稿才最終出臺(tái)。

 

　　相比起此前的征求意見稿，上海匯業(yè)律師事務(wù)所律師史宇航認(rèn)為，《規(guī)定》最大的區(qū)別在于引入了更多的監(jiān)管部門，將電信主管部門與公安部門也引入到深度合成技術(shù)的監(jiān)管之中。電信主管部門可能會(huì)從電信牌照與備案、網(wǎng)絡(luò)安全漏洞等角度進(jìn)行監(jiān)管，公安部門則更關(guān)注公安聯(lián)網(wǎng)備案、網(wǎng)絡(luò)安全等級(jí)保護(hù)的問題。

 

　　在吳沈括看來，《規(guī)定》的亮點(diǎn)在于就深度合成服務(wù)明確設(shè)立了涉及算法、機(jī)理、科學(xué)倫理以及信息發(fā)布等多個(gè)方面的多項(xiàng)審查審核機(jī)制；同時(shí)，強(qiáng)調(diào)了包括加強(qiáng)技術(shù)管理、定期審核、評(píng)估驗(yàn)證，以及有關(guān)模板、模型、工具的安全評(píng)估等的平臺(tái)主體責(zé)任內(nèi)容；并且，強(qiáng)調(diào)實(shí)名認(rèn)證，確保發(fā)布者的真實(shí)身份，否則不予提供相應(yīng)的信息服務(wù)，并且在身份驗(yàn)證中提供了多種可選方式，包括電話號(hào)碼、身份證以及網(wǎng)絡(luò)身份認(rèn)證機(jī)制等。

 

　　而《規(guī)定》中另一頗受關(guān)注的條款是對(duì)“深度合成標(biāo)識(shí)”的要求?！兑?guī)定》提出，深度合成服務(wù)提供者對(duì)使用其服務(wù)生成或者編輯的信息內(nèi)容，應(yīng)當(dāng)采取技術(shù)措施添加不影響用戶使用的標(biāo)識(shí)，并依法依規(guī)保存日志信息。提供智能對(duì)話、合成人聲、人臉生成、沉浸式擬真場(chǎng)景等具有生成或者顯著改變信息內(nèi)容功能服務(wù)的，應(yīng)當(dāng)在生成或者編輯的信息內(nèi)容的合理位置、區(qū)域進(jìn)行顯著標(biāo)識(shí)，向公眾提示信息內(nèi)容的合成情況，避免公眾混淆或者誤認(rèn)；提供非上述深度合成服務(wù)的，應(yīng)當(dāng)提供顯著標(biāo)識(shí)功能，并提示使用者可以進(jìn)行顯著標(biāo)識(shí)。任何組織和個(gè)人不得采用技術(shù)手段刪除、篡改、隱匿相關(guān)標(biāo)識(shí)。

 

　　“此項(xiàng)要求可能會(huì)推動(dòng)深度合成技術(shù)與區(qū)塊鏈技術(shù)更為緊密的融合，借助區(qū)塊鏈上信息無法篡改的特點(diǎn)來履行該項(xiàng)義務(wù)。”史宇航說。

 

　　此外，《規(guī)定》與《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》一脈相承，同樣注重新聞信息安全?！兑?guī)定》指出，具有輿論屬性和社會(huì)動(dòng)員能力的深度合成服務(wù)提供者仍要履行算法推薦服務(wù)的備案手續(xù)，深度合成服務(wù)提供者開發(fā)上線具有輿論屬性或者社會(huì)動(dòng)員能力的新產(chǎn)品、新應(yīng)用、新功能也要按規(guī)定開展安全評(píng)估。

 

　　吳沈括指出，該規(guī)定是為實(shí)現(xiàn)深度合成服務(wù)的事前治理，以最大程度降低該技術(shù)伴生的社會(huì)風(fēng)險(xiǎn)。

 

　　同時(shí)，數(shù)據(jù)安全也是《規(guī)定》重點(diǎn)強(qiáng)調(diào)的規(guī)范之一?！兑?guī)定》要求，深度合成服務(wù)提供者和技術(shù)支持者應(yīng)加強(qiáng)訓(xùn)練數(shù)據(jù)管理，采取必要措施保障訓(xùn)練數(shù)據(jù)安全；訓(xùn)練數(shù)據(jù)包含個(gè)人信息的，應(yīng)當(dāng)遵守個(gè)人信息保護(hù)的有關(guān)規(guī)定；提供人臉、人聲等生物識(shí)別信息顯著編輯功能的，應(yīng)當(dāng)提示使用者依法告知被編輯的個(gè)人，并取得其單獨(dú)同意。

 

 

　　促進(jìn)深度合成服務(wù)規(guī)范發(fā)展是此次《規(guī)定》出臺(tái)的重要目的。據(jù)國家網(wǎng)信辦介紹，制定《規(guī)定》，是落實(shí)《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法》《個(gè)人信息保護(hù)法》《互聯(lián)網(wǎng)信息服務(wù)管理辦法》等法律、行政法規(guī)，對(duì)應(yīng)用深度合成技術(shù)提供互聯(lián)網(wǎng)信息服務(wù)制定系統(tǒng)性、專門性規(guī)定，能夠明確各類主體的信息安全義務(wù)，為促進(jìn)深度合成服務(wù)規(guī)范發(fā)展提供有力法治保障。

 

　　在北京大成律師事務(wù)所高級(jí)合伙人肖颯看來，《規(guī)定》的發(fā)布一方面會(huì)使得目前行業(yè)內(nèi)良莠不齊的情況得以整治，淘汰不規(guī)范的企業(yè)，促進(jìn)行業(yè)健康發(fā)展，另一方面也會(huì)使得同深度合成技術(shù)相關(guān)的新興技術(shù)行業(yè)有相似的法律依據(jù)提供參考，提前做好準(zhǔn)備，合法合規(guī)運(yùn)行。

 

　　“總的來說，對(duì)行業(yè)有著極大的促進(jìn)作用，也能促使更多企業(yè)依照規(guī)范加入深度合成服務(wù)提供者的行列。”她表示。

 

　　史宇航也持有相同看法，他認(rèn)為《規(guī)定》的制定有助于對(duì)新技術(shù)風(fēng)險(xiǎn)的監(jiān)管，更好地發(fā)揮新技術(shù)的價(jià)值。

 

　　然而，《規(guī)定》作為規(guī)范前沿技術(shù)的具體規(guī)定，在落地時(shí)仍面臨不少難點(diǎn)。肖颯指出，《規(guī)定》的落地難點(diǎn)主要在于深度合成技術(shù)本身的復(fù)雜性和易變性，實(shí)踐中認(rèn)定、取證和舉證的難度可能會(huì)較高，影響《規(guī)定》的實(shí)施效果。同時(shí)，由于目前已經(jīng)有許多企業(yè)已經(jīng)在進(jìn)行深度合成技術(shù)的應(yīng)用，因此如何處置和使得這部分企業(yè)在《規(guī)定》實(shí)施后轉(zhuǎn)為合規(guī)合法進(jìn)行深度合成服務(wù)的提供也是落地的難點(diǎn)之一。以上這些問題，都需要司法和執(zhí)法部門在不斷地更新自己的能力，與時(shí)俱進(jìn)。

 

　　因此，在未來進(jìn)一步推動(dòng)深度合成技術(shù)規(guī)范化發(fā)展的過程中，吳沈括建議，一方面要認(rèn)可深度合成技術(shù)的積極意義，同時(shí)也要重點(diǎn)實(shí)現(xiàn)對(duì)于深度合成技術(shù)和服務(wù)的有序規(guī)范和引導(dǎo)，對(duì)于深度合成技術(shù)所形成的生態(tài)中的各方主體，要根據(jù)技術(shù)演進(jìn)的實(shí)際情況，不斷完善權(quán)利義務(wù)配置。同時(shí)，豐富監(jiān)管工具手段，引入新監(jiān)管機(jī)制，最大程度防范與深度合成技術(shù)應(yīng)用相伴生的各種社會(huì)風(fēng)險(xiǎn)，劃定必要的行為紅線，及時(shí)懲處各類違法違規(guī)行為，構(gòu)建安全可持續(xù)的發(fā)展環(huán)境。

 

　　“希望執(zhí)法能夠跟上，只有切實(shí)對(duì)違法行為進(jìn)行查處、處罰，讓執(zhí)法更加公開透明，才有可能推動(dòng)深度合成技術(shù)的規(guī)范化發(fā)展，否則一定會(huì)出現(xiàn)劣幣驅(qū)逐良幣的現(xiàn)象，導(dǎo)致違法活動(dòng)難以遏制。”史宇航期待。

 

　　此外，值得注意的是，南方財(cái)經(jīng)全媒體記者也觀察到，除《規(guī)范》外，近期與人工智能治理相關(guān)的法規(guī)正密集出臺(tái)。

 

　　對(duì)此，肖颯認(rèn)為，這一方面意味著人工智能這一項(xiàng)技術(shù)已經(jīng)在各個(gè)方面各個(gè)領(lǐng)域發(fā)揮出越來越重要的作用。面對(duì)這樣的一種新型領(lǐng)域，自然會(huì)引申出許多固有的法律法規(guī)無法回應(yīng)或妥善處理的難題，因而需要新的法律法規(guī)予以正面回應(yīng)。另一方面也意味著我國對(duì)于人工智能這樣一項(xiàng)新興技術(shù)并未采取置之不理或者聽之任之的態(tài)度，而是在積極接納的基礎(chǔ)上通過新的法律法規(guī)進(jìn)行規(guī)范，以適應(yīng)社會(huì)的不斷發(fā)展之勢(shì)。