“人工智能從你出生那天就認識你，讀過你所有的電子郵件，聽過你所有電話錄音，知道你最愛的電影……”尤瓦爾·赫拉利在《未來簡史》一書中描述了這樣一種未來景況：人工智能比人類更了解自己。

 

　　步入人工智能時代，人類的生活習(xí)慣和生產(chǎn)方式正在被重塑，科幻和現(xiàn)實滲透，驚喜與擔(dān)憂交加。人與機器的未來是一場親密的合作還是激烈的戰(zhàn)爭？機器會將人類的智能拓展到什么樣的邊界？

 

　　南財合規(guī)科技研究院推出AI前沿觀察系列報道。從技術(shù)、政策和治理多角度，剖析人工智的技術(shù)瓶頸與倫理考驗，追問未來的可能與限度，以期尋找第四次工業(yè)革命浪潮翻涌下人工智能發(fā)展的最優(yōu)路徑。

 

　　1956年，在美國漢諾威小鎮(zhèn)的達特茅斯學(xué)院，“人工智能”的概念第一次被提出。在接下來的60余年，人工智能從屏幕上躍動的代碼逐漸走向各行各業(yè)的應(yīng)用，成為現(xiàn)實。

 

　　然而，隨著技術(shù)與產(chǎn)業(yè)在變革下交織，我們走向人工智能技術(shù)與各行各業(yè)深度融合的“烏卡時代”(VUCA，易變性、不確定性、復(fù)雜性、模糊性)。人工智能無數(shù)次給人類帶來驚喜，亦無數(shù)次引發(fā)人們對未知風(fēng)險的恐慌。人們不禁思考：我們應(yīng)該以何種態(tài)度解決人工智能技術(shù)的發(fā)展遇到的問題？

 

　　9月初，深圳公布全國首部人工智能產(chǎn)業(yè)專項立法；9月底，上海通過《上海市促進人工智能產(chǎn)業(yè)發(fā)展條例》，并于10月1日正式實施。在這個節(jié)點，追蹤研究人工智能治理的發(fā)展態(tài)勢具有極其重要的意義。

 

　　多位專家在接受南方財經(jīng)全媒體記者采訪時指出，當(dāng)前我國人工智能治理呈現(xiàn)“剛?cè)岵?、多方共舉”的態(tài)勢。人工智能治理體系由倫理規(guī)范等“軟法”和法律法規(guī)等“硬法”共同構(gòu)成，參與治理活動的主體涵蓋政府、行業(yè)組織、企業(yè)和公眾等。專家預(yù)測，未來我國將會繼續(xù)在法律與倫理領(lǐng)域同步發(fā)力，以促進發(fā)展為宗旨對人工智能產(chǎn)業(yè)進行治理。

 

　　全球現(xiàn)狀：歐盟監(jiān)管發(fā)力，美國產(chǎn)業(yè)先行

 

　　2016年是人工智能風(fēng)險逐漸受到關(guān)注的一年，技術(shù)本身的風(fēng)險以及技術(shù)對法律體系、倫理規(guī)則的沖擊逐漸引起注意。

 

　　在這一年，李世石與Alpha Go的“世紀決戰(zhàn)”以4-1的結(jié)果落幕，從此這個“完美”的對手，成為籠罩圍棋界的陰影。同年，漢森機器人技術(shù)公司(Hanson Robotics)開發(fā)的類人機器人索菲亞被沙特阿拉伯授予國籍并獲得公民身份引發(fā)了全球爭議；此外，美國非盈利媒體ProPublica發(fā)表文章《機器偏見》(Machine Bias)，其中質(zhì)疑再犯風(fēng)險預(yù)測算法COMPAS在判定時可能存在種族歧視的現(xiàn)象。

 

　　近年來，越來越多的國家意識到人工智能技術(shù)對經(jīng)濟與社會生活帶來的影響。2020年年底，經(jīng)濟合作與發(fā)展組織OECD在《2020年數(shù)字經(jīng)濟展望》(OECD Digital Economy Outlook 2020)中指出，已經(jīng)有超過60個國家提出了與人工智能相關(guān)的政策。

 

　　然而，盡管全球都意識到了人工智能技術(shù)的重要性，但由于各國對相關(guān)產(chǎn)業(yè)發(fā)展、公民隱私等方面存在不同考量，目前國際上并沒有形成通行、共識的人工智能治理規(guī)則和體系。

 

　　歐盟與美國在發(fā)展高新技術(shù)的角逐從未停止，然而，兩國對人工智能的治理思路并不相同。前者強調(diào)嚴格監(jiān)管，后者則主張產(chǎn)業(yè)先行。

 

　　對外經(jīng)濟貿(mào)易大學(xué)數(shù)字經(jīng)濟與法律創(chuàng)新研究中心執(zhí)行主任張欣認為，歐盟的人工智能治理仍然鑲嵌在數(shù)據(jù)治理框架之下。以《通用數(shù)據(jù)保護條例》(GDPR)為依托，以《人工智能法提案》為主導(dǎo)，歐盟對人工智能這種關(guān)涉?zhèn)€人隱私、數(shù)據(jù)安全等多領(lǐng)域的前沿技術(shù)，制定較為嚴格的監(jiān)管路徑是在各方預(yù)期之內(nèi)的。

 

　　“強監(jiān)管是歐盟近幾年對于自身的數(shù)字主權(quán)、技術(shù)主權(quán)重視和關(guān)注的體現(xiàn)。”北京師范大學(xué)互聯(lián)網(wǎng)發(fā)展研究院院長助理、中國互聯(lián)網(wǎng)協(xié)會研究中心副主任吳沈括認為，歐盟當(dāng)前治理的主要目的是約束以美國大型互聯(lián)網(wǎng)企業(yè)為代表的，美國方面的科技滲透和科技壓迫，以此保護歐盟公民的基本權(quán)利和發(fā)展歐盟的數(shù)字產(chǎn)業(yè)。

 

　　2021年4月，歐盟公布《人工智能法草案》，這是世界范圍內(nèi)第一部針對人工智能進行規(guī)制的法律。此前，歐盟在2018年、2020年相繼發(fā)布人工智能治理領(lǐng)域重要文件《可信人工智能倫理指南》《人工智能白皮書—通往卓越和信任的歐洲路徑》。

 

　　匯集了微軟、谷歌等科技巨頭的美國，在人工智能領(lǐng)域亦展露了其打造壟斷地位的野心。華東政法大學(xué)政治學(xué)研究院院長、人工智能與大數(shù)據(jù)指數(shù)研究院院長高奇琦認為，比起歐盟的強監(jiān)管，目前美國更傾向于讓人工智能產(chǎn)業(yè)“跑起來”。

 

　　2019年，特朗普政府簽署行政令《保持美國在人工智能領(lǐng)域的領(lǐng)導(dǎo)地位》，要求將更多資源和投資用于人工智能的學(xué)習(xí)、推廣和研究。在去年通過的《美國創(chuàng)新與競爭法案》中，美國將人工智能和量子計算等研究共同列為2022財年美國研發(fā)預(yù)算優(yōu)先事項。

 

　　“美國采用的是企業(yè)自我規(guī)制和政府規(guī)制相結(jié)合的治理路徑。”張欣指出，美國目前以《算法問責(zé)法》為引領(lǐng)，創(chuàng)建了一系列在公共治理場景中人工智能應(yīng)用的程序化問責(zé)路徑。

 

　　剛?cè)岵簜惱砼c法律雙管齊下

 

　　2019年6月，國家新一代人工智能治理專業(yè)委員會發(fā)布了《新一代人工智能治理原則》，提出了人工智能發(fā)展相關(guān)方需要遵循的八項原則。時間走過三年，我國的人工智能治理體系現(xiàn)況如何？

 

　　從現(xiàn)有規(guī)則來看，我國的治理路徑與歐盟和美國都不盡相同，在倫理規(guī)則和法律法規(guī)方面皆有布局。

 

　　9月6日，深圳公布全國首部人工智能產(chǎn)業(yè)專項立法《深圳經(jīng)濟特區(qū)人工智能產(chǎn)業(yè)促進條例》；同月22日，上海通過《上海市促進人工智能產(chǎn)業(yè)發(fā)展條例》，并在10月1日正式施行。法律參與人工智能治理的發(fā)令槍已然打響。

 

　　值得注意的是，在上海和深圳的條例中，均有一個引入注目的創(chuàng)新點——對人工智能進行分類分級監(jiān)管。無獨有偶，在此前歐盟的《人工智能法草案》中，也提出要將人工智能風(fēng)險進行分級，不同級別采用不同規(guī)則管理。

 

　　“風(fēng)險分類分級是與當(dāng)下數(shù)字化發(fā)展的態(tài)勢相適應(yīng)的一種立法選擇。”吳沈括認為，風(fēng)險分類分級可以針對性地構(gòu)建必要的規(guī)則，最大限度地實現(xiàn)人工智能安全和人工智能產(chǎn)業(yè)發(fā)展之間的一個動態(tài)平衡。

 

　　同濟大學(xué)法學(xué)院副教授、上海市人工智能社會治理協(xié)同創(chuàng)新中心研究員陳吉棟指出，深圳與上海雖然規(guī)定了分類分級，但與歐盟人工智能條例相比并未出臺詳細的制度設(shè)計。“一方面，分類分級制度的核心是不同主體的權(quán)利義務(wù)的設(shè)置，在我國屬于中央事權(quán)的范疇，地方立法探索的空間有限；另一方面，兩地立法在定位上，偏重產(chǎn)業(yè)法定位而非治理法定位，相比進行治理，更強調(diào)立法促進產(chǎn)業(yè)發(fā)展。”

 

　　法律之外，倫理規(guī)則的布局也在進行中。2021年，國家新一代人工智能治理專業(yè)委員會發(fā)布《新一代人工智能倫理規(guī)范》，提出將倫理道德融入人工智能研發(fā)和應(yīng)用的全生命周期。

 

　　今年9月，上海和深圳頒布的人工智能發(fā)展條例也要求政府建立人工智能倫理(專家)委員會(以下簡稱“委員會”)。根據(jù)條例，委員會的職能包括制定倫理規(guī)范、推動相關(guān)組織機構(gòu)開展問題研討和標準制定、對重點領(lǐng)域風(fēng)險進行評估等。而此前發(fā)布的《關(guān)于加強科技倫理治理的意見》要求，若機構(gòu)從事人工智能科技活動，其業(yè)務(wù)涉及科技倫理敏感領(lǐng)域的，也應(yīng)設(shè)立科技倫理(審查)委員會。

 

　　如果將法律法規(guī)比作“硬法”的話，那么倫理規(guī)則便可被視為“軟法”。

 

　　高奇琦認為，法律的強監(jiān)管雖然會帶來安全性的提升，但同時也意味著較高的合規(guī)成本。我國人工智能產(chǎn)業(yè)處在發(fā)展的初期，由于其技術(shù)本身和應(yīng)用場景的不確定性，企業(yè)如果將資源向合規(guī)傾斜，可能面臨著無法維生的窘境。

 

　　張欣則指出，相比之下，倫理規(guī)則等軟法更具靈活性，其可以更好地平衡科技創(chuàng)新、公共安全以及社會秩序等多元利益目標。

 

　　“數(shù)字社會的治理，在‘硬法’之外需要‘軟法’的配合。”陳吉棟直言，“硬法”之“硬”在于權(quán)義設(shè)置、程序安排、監(jiān)管責(zé)任等方面的規(guī)則剛性及其背后的強制力。雖然硬法可以為治理提供穩(wěn)定的規(guī)則，但現(xiàn)階段僅適用于高風(fēng)險、違法性明確的行為，且具有相對的滯后性。然而，人工智能技術(shù)的發(fā)展迅速，對于其發(fā)展軌跡與可能風(fēng)險，政府、企業(yè)和社會可能處于共同的無知狀態(tài)，很難對相關(guān)產(chǎn)業(yè)活動劃定清晰邊界，此時用倫理、習(xí)慣和技術(shù)路徑等“軟法”劃定底線和指引方向，是當(dāng)前的不二選擇。如此，軟硬結(jié)合，共同構(gòu)成了科學(xué)的治理體系。

 

　　未來之路：多方共舉助力人工智能治理

 

　　人工智能產(chǎn)業(yè)方興未艾，我國的治理之路將要走向何方？

 

　　清華大學(xué)人工智能國際治理研究院副院長梁正指出，人工智能產(chǎn)業(yè)的治理除了政府，還應(yīng)該包括行業(yè)組織、企業(yè)等主體。人工智能產(chǎn)業(yè)是治理實踐的“前哨站”，能夠第一時間發(fā)現(xiàn)和面對問題。也正因如此，國家立法和政府監(jiān)管之外，行業(yè)也可以自發(fā)制定現(xiàn)有法律與倫理底線之上的合規(guī)體系、技術(shù)標準等。

 

　　在9月剛剛落幕的世界人工智能大會上，阿里巴巴就發(fā)布了聯(lián)合多個研究機構(gòu)撰寫的《人工智能治理與可持續(xù)發(fā)展實踐白皮書》，討論行業(yè)人工智能治理實踐面臨的問題。

 

　　“對人工智能的治理需貫穿整條產(chǎn)業(yè)鏈，包括對基礎(chǔ)層、技術(shù)層和應(yīng)用層的治理。”張欣從技術(shù)視角給出了建議。基礎(chǔ)層指的是對數(shù)據(jù)以及相關(guān)硬件設(shè)施的治理；技術(shù)層則將關(guān)注的重點放在算法以及底層框架上；而在應(yīng)用層則需要結(jié)合場景和產(chǎn)品對模型系統(tǒng)以及應(yīng)用平臺進行治理。

 

　　吳沈括則表示，除了關(guān)注技術(shù)要素，人工智能對相關(guān)社會組織管理體系的影響以及倫理內(nèi)容的影響也是不可忽視的。

 

　　事實上，我國目前尚未針對人工智能治理專門立法。2017年7月，國務(wù)院印發(fā)《新一代人工智能發(fā)展規(guī)劃》，其中提到，計劃在2025年初步建立人工智能法律法規(guī)、倫理規(guī)范和政策體系。未來，我國人工智能治理能否迎來一部專門立法？

 

　　張欣解釋了人工智能技術(shù)立法治理的必要性。一方面，人工智能技術(shù)應(yīng)用具有跨域性和場景性，很難通過單一性的法規(guī)或者規(guī)章予以系統(tǒng)解決。另一方面，目前對標的主要司法轄區(qū)均出臺或者提出了人工智能治理的基本法，對人工智能開展系統(tǒng)化的法律制定符合國際治理趨勢。

 

　　隨著人工智能對社會生活、產(chǎn)業(yè)發(fā)展的影響力逐漸擴大，未來必然有立法監(jiān)管和治理的必要。梁正直言：“目前國家層面已經(jīng)在對立法可能涉及的各項問題進行研究。”