日前，國(guó)務(wù)院印發(fā)《關(guān)于加強(qiáng)數(shù)字政府建設(shè)的指導(dǎo)意見(jiàn)》，就主動(dòng)順應(yīng)經(jīng)濟(jì)社會(huì)數(shù)字化轉(zhuǎn)型趨勢(shì)，充分釋放數(shù)字化發(fā)展紅利，全面開(kāi)創(chuàng)數(shù)字政府建設(shè)新局面作出部署。

 

　　數(shù)字化轉(zhuǎn)型是主流趨勢(shì)，數(shù)字政府建設(shè)也是當(dāng)前的重點(diǎn)領(lǐng)域。數(shù)據(jù)是數(shù)字化轉(zhuǎn)型的前提和基礎(chǔ)，然而我們目前的海量數(shù)據(jù)信息還存在數(shù)據(jù)積累少、數(shù)據(jù)標(biāo)準(zhǔn)不統(tǒng)一、數(shù)據(jù)質(zhì)量參差不齊、數(shù)據(jù)開(kāi)放使用規(guī)則不清晰等突出問(wèn)題。如何推動(dòng)高質(zhì)量數(shù)據(jù)建設(shè)，助力人工智能健康發(fā)展？清華大學(xué)公共管理學(xué)院教授、清華大學(xué)人工智能?chē)?guó)際治理研究院副院長(zhǎng)、人工智能治理研究中心主任梁正受新華網(wǎng)思客邀請(qǐng)，圍繞這一話題展開(kāi)深入探討。

 

　　     

 

　　清華大學(xué)公共管理學(xué)院教授、清華大學(xué)人工智能?chē)?guó)際治理研究院副院長(zhǎng)、人工智能治理研究中心主任

　　隨著數(shù)字化浪潮的不斷推進(jìn)，數(shù)字化、智能化成為引領(lǐng)未來(lái)經(jīng)濟(jì)的重要?jiǎng)恿Α｜h中央高度重視發(fā)展數(shù)字經(jīng)濟(jì)，國(guó)家“十四五”規(guī)劃和2035年遠(yuǎn)景目標(biāo)綱要作出數(shù)字化發(fā)展戰(zhàn)略，部署了數(shù)字經(jīng)濟(jì)、數(shù)字社會(huì)、數(shù)字政府建設(shè)目標(biāo)。數(shù)字經(jīng)濟(jì)已成為全球經(jīng)濟(jì)社會(huì)發(fā)展的重要驅(qū)動(dòng)力。而人工智能作為新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動(dòng)力量，正深刻影響著經(jīng)濟(jì)社會(huì)的發(fā)展進(jìn)程。

 

　　人工智能的發(fā)展還存在不成熟的地方，當(dāng)前談得最多的是不斷提升人工智能技術(shù)的安全性、可靠性和可控性，但最重要的是要把AI的賦能作用和產(chǎn)業(yè)發(fā)展結(jié)合起來(lái)，讓AI成為新基建的一部分，打造數(shù)字新基建，利用信息技術(shù)推動(dòng)產(chǎn)業(yè)數(shù)字化轉(zhuǎn)型。

 

　　目前推動(dòng)產(chǎn)業(yè)數(shù)字化轉(zhuǎn)型還需要解決幾個(gè)問(wèn)題，一是我們?cè)诤芏喈a(chǎn)業(yè)領(lǐng)域沒(méi)有數(shù)據(jù)積累，德國(guó)的很多企業(yè)在20年前就已經(jīng)保留著生產(chǎn)過(guò)程相關(guān)的各類(lèi)數(shù)據(jù)文本，檔案很全，但是我們?cè)诤芏嘈袠I(yè)領(lǐng)域都是口傳心授，缺乏數(shù)據(jù)記錄。二是數(shù)據(jù)標(biāo)準(zhǔn)不統(tǒng)一，質(zhì)量不高，包括我們?cè)诠差I(lǐng)域的數(shù)據(jù)，在一些數(shù)字化走得比較靠前的城市，比如上海、杭州、深圳等，也仍然存在數(shù)據(jù)標(biāo)準(zhǔn)和格式不統(tǒng)一，數(shù)據(jù)歸集難度大的問(wèn)題。三是數(shù)據(jù)開(kāi)放使用規(guī)則不清晰，這又涉及到治理問(wèn)題。

 

　　這方面要注意一個(gè)誤區(qū)，不是解決了這些問(wèn)題后，就一定會(huì)發(fā)揮作用。就像我們建了很多機(jī)場(chǎng)，沒(méi)有飛機(jī)，沒(méi)有乘客，它能產(chǎn)生效益嗎？所以數(shù)字基建關(guān)鍵是要跟產(chǎn)業(yè)應(yīng)用結(jié)合，不管是公共需求還產(chǎn)業(yè)需求。

 

　　在產(chǎn)業(yè)數(shù)字化方面現(xiàn)在相關(guān)部門(mén)也有一些共性技術(shù)的支持。例如，我們的機(jī)床行業(yè)是一個(gè)大而散的行業(yè)，幾乎可以覆蓋制造業(yè)的全部領(lǐng)域，小到螺絲釘、大到高鐵、飛機(jī)、船舶、火箭，其產(chǎn)品乃至設(shè)備的制造都離不開(kāi)機(jī)床。

 

　　我們過(guò)去的機(jī)床行業(yè)總體上是比較落后的，雖然有“十八羅漢廠”這樣的骨干企業(yè)，但是在智能化轉(zhuǎn)型中，我們的企業(yè)和德國(guó)、日本、瑞士一些領(lǐng)先的機(jī)床廠家相比，競(jìng)爭(zhēng)力還是不夠的，所以就導(dǎo)致整個(gè)機(jī)床行業(yè)比較分散，龍頭企業(yè)的實(shí)力不夠強(qiáng)。

 

　　而隨著中國(guó)經(jīng)濟(jì)體量和市場(chǎng)規(guī)模的擴(kuò)張、生產(chǎn)制造的需要，企業(yè)中數(shù)控機(jī)床的數(shù)量在不斷攀升。數(shù)控機(jī)床的發(fā)展需要比較好的數(shù)字化基礎(chǔ)，現(xiàn)在中國(guó)機(jī)床工具工業(yè)協(xié)會(huì)正在探索推動(dòng)一項(xiàng)創(chuàng)新性的智能化服務(wù)，用工業(yè)云的方式收集分散在各個(gè)企業(yè)、機(jī)床上的數(shù)據(jù)，經(jīng)過(guò)數(shù)據(jù)整合、學(xué)習(xí)對(duì)工藝參數(shù)等優(yōu)化后再分發(fā)給企業(yè)。這有點(diǎn)像在機(jī)床領(lǐng)域建了個(gè)安卓系統(tǒng)，定期優(yōu)化升級(jí)，可以大大提高工業(yè)生產(chǎn)率。

 

　　越是傳統(tǒng)的行業(yè)，其實(shí)做數(shù)字化、智能化空間越大。比如過(guò)去農(nóng)業(yè)效率很低，在采集、儲(chǔ)存、流通環(huán)節(jié)都會(huì)產(chǎn)生大量浪費(fèi)，現(xiàn)在通過(guò)智慧農(nóng)業(yè)、數(shù)字農(nóng)業(yè)建設(shè)，增加了農(nóng)業(yè)附加值。在這方面數(shù)字產(chǎn)業(yè)園是個(gè)很好的嘗試，利用可以開(kāi)放的公共數(shù)據(jù)，吸引相關(guān)產(chǎn)業(yè)匯聚，利用優(yōu)質(zhì)資源，推動(dòng)企業(yè)數(shù)字化、智能化發(fā)展和產(chǎn)業(yè)聚集。智能化轉(zhuǎn)型未來(lái)是一個(gè)必然，我們的產(chǎn)業(yè)發(fā)展有很大前景，目前中國(guó)經(jīng)濟(jì)面臨“三重壓力”，實(shí)現(xiàn)數(shù)字化和智能化轉(zhuǎn)型，就能激發(fā)數(shù)字經(jīng)濟(jì)發(fā)展新動(dòng)能。

 

　　“人工智能有多少智能就有多少人工”，這雖然是句調(diào)侃的玩笑話，但說(shuō)明人工智能也存在很多問(wèn)題。比如自動(dòng)駕駛還無(wú)法完全脫離人的操控，訓(xùn)練算法所需的場(chǎng)景數(shù)據(jù)仍需要人來(lái)標(biāo)注。盡管機(jī)器具備了自我學(xué)習(xí)的能力，但在很大程度上仍需要人來(lái)引導(dǎo)，在利用大量的數(shù)據(jù)訓(xùn)練后才能展現(xiàn)出一些效果。在這樣的背景下，倘若標(biāo)注者自身的學(xué)歷和能力參差不齊，那人工智能自我學(xué)習(xí)的效果也大不相同，這樣的情況在醫(yī)療、建筑這種專(zhuān)業(yè)性較強(qiáng)的領(lǐng)域更為突出。如果我們期待以這樣的方式推動(dòng)工業(yè)領(lǐng)域的高質(zhì)量數(shù)據(jù)建設(shè)，在我看來(lái)這是不可能的。

 

　　推動(dòng)高質(zhì)量數(shù)據(jù)建設(shè)，到底該怎么做？目前在多個(gè)地方已經(jīng)出現(xiàn)一些有益嘗試。比如深圳龍崗建了一個(gè)AI小鎮(zhèn)，按照數(shù)字化、智能化產(chǎn)業(yè)發(fā)展所需要的資源對(duì)AI小鎮(zhèn)的底層架構(gòu)進(jìn)行系統(tǒng)化配置，比如一些公共部門(mén)的數(shù)據(jù)，在匯集和整理后先面向社會(huì)開(kāi)放使用。

 

　　目前全國(guó)已經(jīng)有約15個(gè)省市區(qū)出臺(tái)了數(shù)據(jù)方面的管理?xiàng)l例或地方性政策，這是在中央大力推動(dòng)下取得的進(jìn)展。不論是數(shù)字經(jīng)濟(jì)還是人工智能試驗(yàn)區(qū)，像深圳這樣的中國(guó)特色社會(huì)主義先行示范區(qū)要勇做“排頭兵”，積極探索數(shù)據(jù)要素領(lǐng)域的產(chǎn)權(quán)制度、公共數(shù)據(jù)開(kāi)放、流通交易和數(shù)據(jù)安全等管理機(jī)制。

 

　　現(xiàn)代社會(huì)中的數(shù)據(jù)安全問(wèn)題，特別是一些場(chǎng)景下公平問(wèn)題尤為突出，相關(guān)頂層設(shè)計(jì)的重要性也愈發(fā)凸顯。比如數(shù)據(jù)安全涉及個(gè)人財(cái)產(chǎn)，這類(lèi)問(wèn)題的治理難度非常大。此外還有倫理規(guī)范方面的問(wèn)題，在數(shù)據(jù)安全領(lǐng)域，我們?cè)撊绾伟芽貍惱淼牡拙€，這些都對(duì)我們的工作提出巨大挑戰(zhàn)。2021年，歐盟頒布了《人工智能法》草案，雖然目前仍在征集意見(jiàn)中，但這是全球范圍內(nèi)關(guān)于人工智能的首部系統(tǒng)化法律，也算是在這方面的一大突破。

 

　　自2021年11月1日起，我國(guó)也開(kāi)始施行《中華人民共和國(guó)個(gè)人信息保護(hù)法》，這部法律與《數(shù)據(jù)安全法》等其他幾部法律共同構(gòu)成了我國(guó)數(shù)據(jù)安全底線治理的基礎(chǔ)。特別是醫(yī)療、金融、司法這樣一些涉及到個(gè)人權(quán)益乃至人身安全的重要領(lǐng)域，運(yùn)用相關(guān)算法進(jìn)行自動(dòng)化決策要非常小心。正如前文所說(shuō)，這些領(lǐng)域內(nèi)主流的機(jī)器訓(xùn)練方法，不具備可解釋性，只是一個(gè)數(shù)據(jù)擬合的結(jié)果，因此存在出錯(cuò)概率。

 

　　我認(rèn)為，算法運(yùn)用要合乎倫理，要保障底線、公平且保護(hù)隱私，不能夠侵犯?jìng)€(gè)人權(quán)益。特別是在一些個(gè)人領(lǐng)域，針對(duì)相關(guān)算法公眾要有問(wèn)責(zé)權(quán)，針對(duì)安全主體責(zé)任要定期審查，必要時(shí)應(yīng)考慮引入第三方的安全評(píng)估制度。針對(duì)一些數(shù)據(jù)原因造成的決策錯(cuò)誤，我們也應(yīng)引入人工干預(yù)糾偏并復(fù)核。因此，從底層技術(shù)的角度來(lái)看，最終我們需要建立的是一個(gè)綜合性的人工智能治理體系。

 

　　數(shù)據(jù)是數(shù)字化轉(zhuǎn)型的前提和基礎(chǔ)，這個(gè)數(shù)據(jù)既包括公共數(shù)據(jù)，也包括平臺(tái)企業(yè)所掌握的消費(fèi)者個(gè)人數(shù)據(jù)，所以在管理、使用、流動(dòng)上形式是不一樣的，相應(yīng)的制度和治理機(jī)制設(shè)計(jì)也應(yīng)有所不同。

 

　　總的來(lái)看，對(duì)于人工智能治理，一是技術(shù)本身要可解釋可控，二是有時(shí)可能要人工干預(yù)，這是一個(gè)多元協(xié)同治理的概念。當(dāng)前我國(guó)針對(duì)人工智能特定應(yīng)用場(chǎng)景已經(jīng)出臺(tái)了管理措施，如《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》。未來(lái)應(yīng)從算法分級(jí)分類(lèi)管理的角度出發(fā)，按照高風(fēng)險(xiǎn)高影響、高風(fēng)險(xiǎn)低影響、低風(fēng)險(xiǎn)高影響、低風(fēng)險(xiǎn)低影響劃分，針對(duì)不同領(lǐng)域、不同場(chǎng)景下的應(yīng)用采用不同的治理工具組合。

 

　　人工智能治理問(wèn)題是在高速發(fā)展中出現(xiàn)的問(wèn)題，所以我們將其歸結(jié)為新興技術(shù)的治理，適用于“敏捷治理”的概念。對(duì)它要有一個(gè)客觀的態(tài)度，不能視其為洪水猛獸，也不能放任不管，而是要密切地去了解其進(jìn)展，然后引入相關(guān)利益方，根據(jù)它的發(fā)展演變，不斷地去調(diào)適治理模式、創(chuàng)新治理手段。