8月15日,國家網(wǎng)信辦聯(lián)合國家發(fā)展改革委、教育部、科技部、工業(yè)和信息化部、公安部、廣電總局公布的《生成式人工智能服務(wù)管理暫行辦法》(以下簡稱《辦法》)正式施行,有望促進生成式人工智能健康發(fā)展和規(guī)范應(yīng)用。作為深耕視頻人工智能賽道的創(chuàng)新型企業(yè),新壹科技CEO雷濤接受了媒體采訪。

 

　　生成式人工智能是指具有文本、圖片、音頻、視頻等內(nèi)容生成能力的模型及相關(guān)技術(shù),自2022年底起在各行各業(yè)大規(guī)模落地應(yīng)用,在提升效率的同時也亂象叢生。

 

　　在雷濤看來,與判別型人工智能風(fēng)險主要集中在算法的歧視和濫用上不同,生成型人工智能存在更多知識產(chǎn)權(quán)爭議和更復(fù)雜的數(shù)據(jù)風(fēng)險,同時濫用生成內(nèi)容在技術(shù)上可能會給監(jiān)管帶來更多挑戰(zhàn)。“特別是隨著大模型的不斷迭代,其生成內(nèi)容的真實性、偏向性與原創(chuàng)性在技術(shù)上越來越難以判別,也給監(jiān)管造成較大壓力。”

 

　　《辦法》提出堅持發(fā)展和安全并重、促進創(chuàng)新和依法治理相結(jié)合的原則,采取有效措施鼓勵生成式人工智能創(chuàng)新發(fā)展,對生成式人工智能服務(wù)實行包容審慎和分類分級監(jiān)管。雷濤認(rèn)為,這種包容審慎和分類分級的監(jiān)管明確供應(yīng)商主體責(zé)任,在創(chuàng)新和有效監(jiān)管之間取得了平衡。“《辦法》符合對人工智能進行分級、分類管理的趨勢,實現(xiàn)了監(jiān)管科學(xué)化、精細(xì)化,避免了‘一刀切’式的監(jiān)管措施抑制人工智能技術(shù)創(chuàng)新。”

 

　　生成式人工智能大規(guī)模落地應(yīng)用,大模型居功至偉。近期發(fā)布的《中國人工智能大模型地圖研究報告》顯示,我國人工智能大模型產(chǎn)品已經(jīng)發(fā)布超百余個?；诖竽Ｐ脱邪l(fā)應(yīng)用全產(chǎn)業(yè)鏈,數(shù)據(jù)及安全便成為重中之重?！掇k法》明確,生成式人工智能服務(wù)提供者應(yīng)當(dāng)依法開展預(yù)訓(xùn)練、優(yōu)化訓(xùn)練等訓(xùn)練數(shù)據(jù)處理活動,使用具有合法來源的數(shù)據(jù)和基礎(chǔ)模型;采取有效措施提高訓(xùn)練數(shù)據(jù)質(zhì)量,增強訓(xùn)練數(shù)據(jù)的真實性、準(zhǔn)確性、客觀性、多樣性。此外,還明確了數(shù)據(jù)標(biāo)注的相關(guān)要求。

 

　　顯然,這些規(guī)定讓此前在數(shù)據(jù)采集、加工和應(yīng)用方面呈野蠻式發(fā)展的廠商壓力倍增。雷濤坦言:“這種陣痛是短暫且必須的,雖然當(dāng)前生成式人工智能依然是一個輔助人類創(chuàng)作的技術(shù)工具,但不可否認(rèn)的是其巨大潛能以及廣闊的應(yīng)用場景,產(chǎn)業(yè)鏈上的企業(yè)都應(yīng)是立足于自身做好研發(fā)追趕,而絕非回避。《辦法》的施行,將有助于明確企業(yè)技術(shù)拓展和使用的邊界,新技術(shù)、新場景只有在合理的規(guī)范體系下,才能不斷推動行業(yè)進步,進而形成良性的行業(yè)生態(tài)。”

 

　　回溯自身,新壹科技作為人工智能賽道的創(chuàng)新