一、聚焦AI：世界范圍內(nèi)的人工智能產(chǎn)業(yè)立法

 

　　有關(guān)“人工智能”（ArtificialIntelligence，AI）這一概念，最早可以追溯到1956年的達特茅斯會議。當(dāng)時，麥卡錫（McCarthy）、明斯基（Minsky）等來自全美的10位年輕學(xué)者就“機器能否產(chǎn)生智能”等核心問題進行了為期兩個月的討論，此次會議也被視為人工智能發(fā)展史上的里程碑事件。時至60多年后的今天，人工智能已在醫(yī)療、交通、金融、農(nóng)業(yè)、工業(yè)等多個行業(yè)中廣泛應(yīng)用，并對傳統(tǒng)商業(yè)模式進行了一系列顛覆性創(chuàng)新。據(jù)德勤發(fā)布的《全球人工智能發(fā)展白皮書》預(yù)測，到2025年，世界人工智能市場規(guī)模將超過6萬億美元。普華永道發(fā)布的《全球AI報告：探索人工智能革命》也認為，到2030年，AI將為全球經(jīng)濟貢獻高達15.7萬億美元。AI帶來最大經(jīng)濟收益的國家將是中國（2030年GDP增長26%）和北美（14.5%），相當(dāng)于10.7萬億美元，占全球經(jīng)濟影響的近70%。

 

　　毫無疑問，人工智能技術(shù)正在重新定義制造業(yè)的發(fā)展方向，未來隨著新一代信息技術(shù)與制造業(yè)的深度融合，人工智能技術(shù)將成為世界各國產(chǎn)業(yè)競爭角逐的焦點。近年來，世界各大經(jīng)濟體也陸續(xù)開始對人工智能進行系統(tǒng)性布局，如：法國政府早在2013年就發(fā)布了《法國機器人發(fā)展計劃》；2016年，在谷歌人工智能程序AlphaGo戰(zhàn)勝韓國圍棋名手李世石后，時任奧巴馬（Obama）政府發(fā)布了《為人工智能的未來做準(zhǔn)備》、《國家人工智能研究與發(fā)展戰(zhàn)略計劃》和《人工智能、自動化與經(jīng)濟》等系列報告，而人工智能技術(shù)也得到了各國政府、產(chǎn)業(yè)界以及學(xué)術(shù)界的普遍重視。包括中國在內(nèi)，英國、德國、印度等國均在同一時期前后出臺了相關(guān)的產(chǎn)業(yè)發(fā)展規(guī)劃。

 

　　為了更好的規(guī)范和適應(yīng)人工智能產(chǎn)業(yè)發(fā)展的新情況，各國關(guān)于人工智能的產(chǎn)業(yè)立法也在穩(wěn)步推進。2008年3月，韓國政府公布了《智能機器人開發(fā)及普及促進法》，并且宣布每五年制定一期“機器人產(chǎn)業(yè)基本計劃”，以系統(tǒng)化方式推動機器人產(chǎn)業(yè)育成政策；2017年底，美國國會也提出兩黨議案——《人工智能未來法案》，以保持美國在人工智能應(yīng)用和創(chuàng)新領(lǐng)域的全球競爭力；2021年，歐盟發(fā)布人工智能領(lǐng)域的首份綜合性法案《人工智能法案》，系統(tǒng)性規(guī)范投放和使用人工智能系統(tǒng)的實體。在我國，上海市也于今年9月初啟動了《上海市促進人工智能產(chǎn)業(yè)發(fā)展條例（草案）》征詢意見程序。顯然，一場規(guī)則領(lǐng)域的競爭已經(jīng)在全球范圍展開。

 

　　二、“產(chǎn)—規(guī)”一體：《條例》的基本內(nèi)容與特點

 

　　1.堅持市場導(dǎo)向與政策鼓勵

 

　　作為一項產(chǎn)業(yè)促進立法，深圳此次出臺的《條例》堅持了市場化導(dǎo)向與政策鼓勵并行的發(fā)展格局。一方面，《條例》明確了市人民政府及其辦事部門在產(chǎn)業(yè)發(fā)展中的基本職責(zé)，確立了工業(yè)和信息化部門主管，發(fā)展改革、教育、科技創(chuàng)新、公安、財政等部門協(xié)同促進的監(jiān)管格局；另一方面，《條例》也明確了人工智能產(chǎn)業(yè)發(fā)展中的市場化方向，在基礎(chǔ)研究上，《條例》第十七條明確提出了培育和建設(shè)投資主體多元化、管理制度現(xiàn)代化、運行機制市場化、用工方式靈活化的新型研發(fā)機構(gòu)；在產(chǎn)業(yè)基礎(chǔ)設(shè)施建設(shè)上，《條例》也提出了完善以市場為主體的建設(shè)運營機制，為人工智能產(chǎn)業(yè)發(fā)展提供公共服務(wù)?？傊?，《條例》堅持市場化的基礎(chǔ)上明確了各方職責(zé)，并擬借助多方力量促進人工智能產(chǎn)業(yè)的發(fā)展和提升。

 

　　2.兼顧產(chǎn)業(yè)發(fā)展與風(fēng)險防范

 

　　在促進產(chǎn)業(yè)發(fā)展的同時強調(diào)風(fēng)險防范是《條例》的第二項特點?；艚穑℉awking）曾表示：“研發(fā)人工智能將成為人類歷史上犯的最大錯誤。遺憾的是，這也可能是最后一個錯誤，因為人工智能的崛起可能是人類文明的終結(jié)。”人工智能自誕生以來，其應(yīng)用是否會給經(jīng)濟社會帶來風(fēng)險始終是大眾關(guān)注的焦點。為此，《條例》不僅在規(guī)范原則中明確了“安全可控”的發(fā)展思路，亦在總則部分強調(diào)了要在遵循有關(guān)法律法規(guī)和倫理安全規(guī)范的前提下，推動人工智能產(chǎn)品和服務(wù)的普及應(yīng)用，在一定程度上為人工智能技術(shù)探索確立了法律邊界。此外，《條例》還創(chuàng)新性地提出市人民政府應(yīng)當(dāng)設(shè)立人工智能倫理委員會，并在研究制定人工智能領(lǐng)域的倫理安全規(guī)范、建立健全人工智能倫理安全規(guī)范管理制度以及發(fā)布人工智能倫理安全實踐指南等方面發(fā)揮作用。

 

　　3.踐行多元共治的規(guī)范框架

 

　　相比傳統(tǒng)的產(chǎn)業(yè)，人工智能以其數(shù)字化和智能化為代表，但這種行業(yè)壁壘的強化也帶了產(chǎn)業(yè)治理的難題，為此《條例》提出了多元共治的發(fā)展目標(biāo)，明確了在“政府規(guī)范、行業(yè)自律、企業(yè)自治、社會監(jiān)督”基本格局的基礎(chǔ)上，推動形成具有廣泛共識的人工智能治理框架和標(biāo)準(zhǔn)規(guī)范，促進產(chǎn)業(yè)多元主體協(xié)同共治。不僅如此，《條例》還較為詳細地界定了市人民政府及其有關(guān)部門、行業(yè)組織、人工智能企業(yè)以及其他單位和個人在產(chǎn)業(yè)治理中的功能，確立的基本的責(zé)任分配機制。值得一提的是，《條例》七十一條還強調(diào)了人工智能企業(yè)對公眾的算法說明義務(wù)，對于公共決策領(lǐng)域以及涉及公共利益的商業(yè)領(lǐng)域的算法，要求相關(guān)組織或者個人進行必要的算法說明。

 

　　三、未竟之題：可能的規(guī)則進路

 

　　從行業(yè)發(fā)展來看，此次深圳市推出的《條例》無疑是一次有益的探索，該立法在確定監(jiān)管主體、治理框架以及扶持政策等方面均具有典型的示范價值。但普遍來看，《條例》僅僅只是一個階段性的立法成果，諸多重大爭議尚未在《條例》中得以體現(xiàn)，發(fā)展人工智能產(chǎn)業(yè)仍然面臨著規(guī)則供給的不足。

 

　　1.基礎(chǔ)數(shù)據(jù)的利益分配機制

 

　　人工智能產(chǎn)業(yè)的發(fā)展離不開基礎(chǔ)數(shù)據(jù)支撐，系統(tǒng)的學(xué)習(xí)和自我優(yōu)化均需以海量數(shù)據(jù)投喂為前提，但遺憾的是，目前關(guān)于基礎(chǔ)數(shù)據(jù)的利益分配機制如何展開尚處于爭議之中。主流觀點認為，與個人身份相關(guān)的底層數(shù)據(jù)，權(quán)利歸用戶本人所有；而經(jīng)過匿名化加工后獲得的數(shù)據(jù)集，則由企業(yè)享有相關(guān)的利益?！稐l例》第三十三條提出，要推動人工智能領(lǐng)域數(shù)據(jù)的流通利用，促進數(shù)據(jù)要素資源化、資產(chǎn)化、資本化發(fā)展。并且強調(diào)了個人數(shù)據(jù)應(yīng)當(dāng)進行去標(biāo)識化處理。但值得注意的是，將脫敏后的數(shù)據(jù)利益歸于平臺公司固然有利于大數(shù)據(jù)產(chǎn)業(yè)發(fā)展，但這種利益分配格局卻也存在不合理甚至不公平之處，并非是世界范圍內(nèi)的普遍做法。實踐中已經(jīng)出現(xiàn)了數(shù)字稅（DigitalServiceTax）、數(shù)據(jù)信托（DataTrusts）、數(shù)據(jù)工會（DataLaborUnion）等治理方式。我國也有學(xué)者提出，考慮到我國的特殊情況，可采用由國有控股大數(shù)據(jù)交易所將其收益以集體轉(zhuǎn)移支付的方式反哺社會，從而合理分配平臺公司與用戶之間的數(shù)據(jù)利益。產(chǎn)權(quán)清晰是行業(yè)發(fā)展的前提，如何確定公平合理的基礎(chǔ)數(shù)據(jù)利益分配機制仍然有待于規(guī)則層面的進一步取舍。

 

　　2.應(yīng)用場景的邊界限制

 

　　隨著人工智能應(yīng)用加速落地，在產(chǎn)品檢驗、汽車駕駛、疾病診斷、城市管理等眾多領(lǐng)域已經(jīng)出現(xiàn)了人工智能的身影，但與此同時，人工智能引發(fā)的倫理道德、隱私保護、社會治理等問題也開始顯現(xiàn)。特斯拉的創(chuàng)始人馬斯克（Musk）就曾表示：“人工智能是關(guān)系人類文明存亡的最大威脅，這是汽車事故、飛機墜毀、濫用藥物或劣質(zhì)食品都比不了的威脅。”由于法律規(guī)制具有一定的滯后效應(yīng)，無法對人工智能進行有效監(jiān)管，如何在鼓勵創(chuàng)新之余為人工智能劃定應(yīng)用邊界始終是爭議的焦點。2014年，全國首個運用人工智能技術(shù)的法律應(yīng)用系統(tǒng)在天津正式投入使用，此舉引發(fā)了不少關(guān)于司法公正的爭議。中國社科院孫萍研究員針對當(dāng)下外賣平臺用工的一項研究也發(fā)現(xiàn)：平臺公司通過算法來支配勞動者的勞動行為，他們的身體和勞作都被嵌入到極不穩(wěn)定的數(shù)字互聯(lián)和算法分配當(dāng)中，這也進一步加劇了他們自身的不穩(wěn)定性。人工智的應(yīng)用具有雙面性，在涉及價值判斷以及人身管理的領(lǐng)域是否應(yīng)當(dāng)有所限制，這需要仔細衡量。為此，《條例》第七十二條提出要對人工智能不利影響進行倫理安全規(guī)范審查和風(fēng)險評估，但這一評估程序如何落地卻仍然需要進一步明確和細化。

 

　　3.人工智能的責(zé)任承擔(dān)

 

　　2013年，美國學(xué)者約翰·弗蘭克·韋弗出版了《機器人是人嗎》一書，該書提出了人工智能時代一個非常重要的命題，當(dāng)人工智能的獨立決策達到相當(dāng)高度時，誰該對其行為負責(zé)？是否需要賦予人工智能有限的法律人格？從此次《條例》的內(nèi)容來看，其基本沿用了當(dāng)下責(zé)任體系，由從事人工智能研究和應(yīng)用的組織或者個人來承擔(dān)相應(yīng)的賠償責(zé)任。

 

　　在技術(shù)發(fā)展發(fā)展初期，要求人工智能服務(wù)提供者對此負責(zé)無可厚非，但當(dāng)人工智能的自主意識和行動能力達到一定的高度時，是否效仿公司制度賦予其獨立的法律人格來承擔(dān)責(zé)任卻成為一個不得不面對的問題。理論界已經(jīng)提出了強制保險、賠償基金等思路，人工智能的責(zé)任承擔(dān)關(guān)系到整個產(chǎn)業(yè)發(fā)展格局和未來，需要進行系統(tǒng)性考量。