早在1942年，著名科幻小說家阿西莫夫在《環(huán)舞》中提出了“機(jī)器人三原則”。第一法則：機(jī)器人不得傷害人類。第二法則：服從人類的命令。第三法則：盡可能保護(hù)自己。

 

　　作為引領(lǐng)未來發(fā)展的戰(zhàn)略性技術(shù)，人工智能的法律邊界在哪里？立法者是否也能如阿西莫夫一樣制定一個(gè)“機(jī)器人三原則”？

 

　　今天上午，市十五屆人大常委會(huì)第44次會(huì)議表決通過了《上海市促進(jìn)人工智能產(chǎn)業(yè)發(fā)展條例》。條例于10月1日起實(shí)施，這是人工智能領(lǐng)域的首部省級(jí)地方法規(guī)。

　　市人大常委會(huì)法工委主任閻銳表示，此次立法立足于促進(jìn)法的基本定位，注重創(chuàng)新性和引領(lǐng)性，充分發(fā)揮有效市場和有為政府的作用，采取各種激勵(lì)措施推動(dòng)人工智能產(chǎn)業(yè)高質(zhì)量發(fā)展。這也是上海繼《上海市數(shù)據(jù)條例》后的第二部數(shù)字經(jīng)濟(jì)領(lǐng)域地方法規(guī)，將有力支撐城市全面數(shù)字化轉(zhuǎn)型，助力建成具有國際影響力的人工智能“上海高地”。

 

　　這是一部產(chǎn)業(yè)促進(jìn)立法

 

　　美國學(xué)者約翰·弗蘭克·韋弗2013年出版了《機(jī)器人是人嗎》一書，該書提出了人工智能時(shí)代一個(gè)非常重要的命題，當(dāng)人工智能的獨(dú)立決策達(dá)到相當(dāng)高度時(shí)，誰該對(duì)其行為負(fù)責(zé)？是否需要賦予人工智能有限的法律人格？

 

　　值得注意的是，此次立法的名稱不叫“人工智能條例”，而是“促進(jìn)人工智能產(chǎn)業(yè)發(fā)展條例”，立足點(diǎn)是促進(jìn)產(chǎn)業(yè)發(fā)展。“從國際上看，目前還沒有一個(gè)單獨(dú)對(duì)人工智能進(jìn)行立法的國家，因?yàn)槿斯ぶ悄芰⒎ㄌy、太新了。”市人大財(cái)經(jīng)委立法監(jiān)督處處長張震說。

 

　　比如，機(jī)器人是否屬于智能人，該承不承認(rèn)它的法律地位，目前還沒有任何一位科技專家說得清楚；再比如，人工智能技術(shù)會(huì)產(chǎn)生行為后果，在設(shè)計(jì)自動(dòng)駕駛系統(tǒng)時(shí)，如果在緊急情況下不得不發(fā)生碰撞，系統(tǒng)應(yīng)選擇保護(hù)車上的人還是保護(hù)路人？

 

　　“這些問題都值得探討，但這不屬于地方立法權(quán)限，在地方立法層面是很難針對(duì)‘人工智能’進(jìn)行規(guī)制的。”張震表示。

 

　　雖然“人工智能”本身難以規(guī)制，但人工智能的產(chǎn)業(yè)已經(jīng)蓬勃發(fā)展起來了。所以，上海這部法，抓住人工智能產(chǎn)業(yè)剛剛崛起的這一戰(zhàn)略機(jī)遇期，從產(chǎn)業(yè)促進(jìn)的角度予以立題，是一部產(chǎn)業(yè)促進(jìn)立法。

 

　　允許試錯(cuò)的“科學(xué)家條款”

 

　　數(shù)據(jù)顯示，上海人工智能產(chǎn)業(yè)規(guī)模近年來持續(xù)壯大，2021年人工智能規(guī)上產(chǎn)值3056.8億元,同比增長17.2%，是2018年的2.28倍；人工智能賦能百業(yè)的價(jià)值紅利正加速顯現(xiàn)。上海的愿景是，力爭到2025年，基本建成更具國際影響力的人工智能“上海高地”。

 

　　人工智能作為新興的產(chǎn)業(yè)領(lǐng)域，創(chuàng)新是其突出的特點(diǎn)。審議中，委員們認(rèn)為，作為一項(xiàng)產(chǎn)業(yè)促進(jìn)立法，應(yīng)該鼓勵(lì)科技創(chuàng)新，給予各類研發(fā)機(jī)構(gòu)和市場主體充分的創(chuàng)新空間。

 

　　記者注意到，此次立法專設(shè)“激發(fā)創(chuàng)新活力”的規(guī)定，鼓勵(lì)市場主體積極創(chuàng)新，并明確有關(guān)部門要根據(jù)人工智能的特點(diǎn)對(duì)相關(guān)的監(jiān)管規(guī)則、標(biāo)準(zhǔn)進(jìn)行相應(yīng)地制定、修改或廢止，建立人工智能領(lǐng)域輕微違法行為免罰清單，從而最大限度地激發(fā)創(chuàng)新活力。

 

　　閻銳表示，對(duì)于人工智能等處于探索發(fā)展階段尚未定型的新業(yè)態(tài)新模式，需要?jiǎng)?chuàng)造具有靈活性、包容性的發(fā)展環(huán)境，允許一定的制度探索和試錯(cuò)空間。

 

　　“這是一條科學(xué)家條款。”張震表示，此前市人大赴上海人工智能研究院、上海期智研究院進(jìn)行立法調(diào)研，從事ai研究的科研工作者最大的苦惱是，“沒有任何一個(gè)機(jī)構(gòu)，任何人，能夠告訴我們能夠做什么，不能做什么，往往是事情做好披露以后，才有人告訴我們，你們這個(gè)做錯(cuò)了！”

 

　　建人工智能領(lǐng)域輕微違法行為免罰清單，就是對(duì)科學(xué)家顧慮的一個(gè)有力回應(yīng)。如果人工智能促進(jìn)法不能給科學(xué)家解綁的話，人工智能產(chǎn)業(yè)的創(chuàng)新活力也將很難激發(fā)。

 

　　保障中小企業(yè)獲得普惠的公共算力

 

　　數(shù)據(jù)、算法、算力是新一代人工智能發(fā)展的三要素，而算力不足是很多研發(fā)機(jī)構(gòu)和中小企業(yè)在現(xiàn)實(shí)中遇到的瓶頸問題。

 

　　此前審議中就有委員建議，通過立法共同推進(jìn)公共算力資源平臺(tái)建設(shè)，通過提供易得、優(yōu)惠、高效的公共算力支持，保障各類研發(fā)機(jī)構(gòu)和中小企業(yè)等能獲得普惠的算力資源。

 

　　記者注意到，條例明確，市經(jīng)濟(jì)信息化部門應(yīng)當(dāng)會(huì)同市發(fā)展改革、科技等部門制定公共算力資源供給辦法，推動(dòng)公共算力資源平臺(tái)建設(shè)與利用，加強(qiáng)算力科學(xué)調(diào)度，通過算力獎(jiǎng)勵(lì)等方式，為人工智能技術(shù)與產(chǎn)業(yè)發(fā)展提供公共算力支持，保障中小企業(yè)獲得普惠的公共算力。

 

　　上海條例與深圳相比一大亮點(diǎn)，在于其促進(jìn)基礎(chǔ)要素的流通、使用和運(yùn)營，在此過程中推動(dòng)相關(guān)主體的權(quán)益保護(hù)，從而更好地調(diào)動(dòng)激發(fā)市場活力。閻銳表示，這次立法推動(dòng)算法模型交易流通，加強(qiáng)對(duì)算法模型的保護(hù)；突出人工智能領(lǐng)域高質(zhì)量數(shù)據(jù)集建設(shè)，擴(kuò)大面向人工智能產(chǎn)業(yè)的公共數(shù)據(jù)供給范圍。

 

　　記者注意到，這次立法思路對(duì)《上海市數(shù)據(jù)條例》有所借鑒。例如在人工智能資產(chǎn)評(píng)估方面，沿襲了數(shù)據(jù)條例中數(shù)據(jù)資產(chǎn)評(píng)估的思路，算法模型和算力資源的交易流通，也借鑒了數(shù)據(jù)交易與流通的規(guī)定，是對(duì)數(shù)據(jù)流通、交易、資產(chǎn)評(píng)估的銜接與突破。

 

　　設(shè)倫理專家委員會(huì)，明確行為底線

 

　　人工智能具備硬幣的兩個(gè)面：有利的一面，不利的一面。“在促進(jìn)應(yīng)用的同時(shí)，我們還要規(guī)避一個(gè)情況，就是ai可能對(duì)整個(gè)人類發(fā)展產(chǎn)生那種顛覆性的負(fù)面的那一面。”張震說。

 

　　人工智能具有技術(shù)屬性和社會(huì)屬性高度融合的特點(diǎn)，立法遇到的問題比如復(fù)雜，比如腦機(jī)接口能提升短期記憶力，卻可能侵犯人格權(quán)；自動(dòng)駕駛車輛遇上危險(xiǎn)，算法該如何應(yīng)對(duì)；外賣平臺(tái)要兼顧好效率與騎手安全發(fā)展等。

 

　　立法者在發(fā)展和安全中間試圖找到一個(gè)平衡點(diǎn)。在這部法規(guī)的審議中，一個(gè)頻頻被提及的議題是：如何在鼓勵(lì)創(chuàng)新之余為人工智能劃定應(yīng)用邊界？

 

　　記者注意到，此次立法兼顧人工智能產(chǎn)業(yè)發(fā)展與安全可控，明確人工智能產(chǎn)業(yè)發(fā)展相關(guān)行為底線，保障人工智能產(chǎn)業(yè)健康、安全發(fā)展。市經(jīng)信委副主任張英表示，《條例》提出“以人為本、科技向善”發(fā)展原則，注重促進(jìn)創(chuàng)新與防范風(fēng)險(xiǎn)相統(tǒng)一。一方面探索分級(jí)治理和沙盒監(jiān)管，研究出臺(tái)高風(fēng)險(xiǎn)人工智能產(chǎn)品和服務(wù)清單等。另一方面成立人工智能倫理專家委員會(huì)，促進(jìn)人工智能產(chǎn)業(yè)在規(guī)范中發(fā)展，在發(fā)展中規(guī)范。

 

　　這也是此次立法的一大創(chuàng)新亮點(diǎn)，條例明確設(shè)立人工智能倫理專家委員會(huì)，發(fā)揮其在人工智能領(lǐng)域倫理規(guī)范方面的作用。其履行的職責(zé)包括制定倫理規(guī)范指南、推動(dòng)參與國內(nèi)外人工智能領(lǐng)域倫理重大問題研討和規(guī)范制定;對(duì)涉及生命健康、公共安全等重點(diǎn)領(lǐng)域人工智能應(yīng)用的潛在風(fēng)險(xiǎn)開展評(píng)估等。

 

　　立法確立了人工智能產(chǎn)品和服務(wù)的行為底線，明確相關(guān)主體開展人工智能研發(fā)和應(yīng)用，應(yīng)當(dāng)遵守法律、法規(guī)規(guī)定，增強(qiáng)倫理意識(shí)，并不得從事相關(guān)禁止行為。比如禁止提供危害用戶人身或者財(cái)產(chǎn)安全、侵害個(gè)人隱私或者個(gè)人信息權(quán)益的產(chǎn)品和服務(wù)；禁止利用算法技術(shù)實(shí)施價(jià)格歧視或者消費(fèi)欺詐等侵害消費(fèi)者權(quán)益的行為，實(shí)施壟斷或者不正當(dāng)競爭等行為等。