人工智能的價值位序
沒有人會懷疑，人類之所以是萬物之靈，是因為人類是唯一會思考的生靈。其他的生物，或許能夠自由行動，甚至比人長得更高、跑得更快、體格更強(qiáng)，但仍然不足以取代“人類是萬物之靈”這一命題。以法律的語言來描述，人類是能夠以自己的意思表示來設(shè)立、變更、終止民事法律關(guān)系的唯一物種。這在民法典第133條中，有切近的表述。
人工智能，能夠顛覆這一命題嗎？
沒有人會否認(rèn)，人工智能，在相當(dāng)多的應(yīng)用場景中，能力已經(jīng)完勝人類。他們比我們算得更準(zhǔn)，跑得更快，甚至可以不知疲倦地工作。早在1950年，英國學(xué)者阿蘭•圖靈（alan turing）發(fā)表的一篇具有劃時代意義的論文《計算機(jī)器與智能》，提出了“機(jī)器是否能夠具有思維”的重大問題。智能機(jī)器與自動化機(jī)器設(shè)備相比，有兩個顯著不同：其一，它們被賦予了更多的決策權(quán)，不再是有限決策或完全被預(yù)先設(shè)定路線或程式的功能機(jī)器；其二，它們被要求在更加復(fù)雜、充滿不確定性的環(huán)境中運行，不僅要和其他各種類型的機(jī)器互動，而且要與人類或動物產(chǎn)生互動。
然而，人工智能，終究不是法律主體，仍然是一堆人類制造的電子或者量子元器件，即使將來出現(xiàn)以dna等生物分子作元器件的ai，亦不過是一堆人為的物質(zhì)聚合體，目前沒有任何證據(jù)證明除人類之外，其他人為的無機(jī)、有機(jī)復(fù)雜聚合體達(dá)到一定的復(fù)雜性時能夠產(chǎn)生智慧。
因而，人工智能，在法律上，仍然只是客體，其權(quán)利能力，即可以做什么不可以做什么，仍然由人類來決定。而人類在做出決定之時，經(jīng)常會面臨價值判斷問題。
審議中的《上海市促進(jìn)人工智能產(chǎn)業(yè)發(fā)展條例（草案）》第4條（發(fā)展目標(biāo)與原則）規(guī)定：本市人工智能產(chǎn)業(yè)發(fā)展應(yīng)當(dāng)堅持以人為本、科技向善……
而什么是“以人為本”，如何做才是“向善”，本身也是充滿爭議的問題。
例一：外賣送餐
2020年9月《外賣騎手，困在系統(tǒng)里》一文報道：
外賣平臺有一種算法，從顧客下單那一秒起，系統(tǒng)便開始根據(jù)騎手的順路性、位置、方向等，決定派哪一位騎車接單。如果一個騎手背負(fù)5個訂單、10個任務(wù)點，系統(tǒng)在11萬條路線規(guī)劃可能中完成“萬單對萬人的秒級求解”，規(guī)劃出最優(yōu)配送方案。雖然對于顧客來說，這種算法可以使他們在最短的時間里拿到外賣，但對于騎手來說，時間壓力與勞動強(qiáng)度不斷提高。出于平臺、騎手和用戶三方效率最大化的目標(biāo)，人工智能算法將所有時間壓縮到了極致，為了按時完成配送，騎手們只能用超速來挽回超時。超速、闖紅燈、逆行等逆算法是騎手們長期在系統(tǒng)算法的控制與規(guī)訓(xùn)下不得已的做法。
這里產(chǎn)生的價值沖突：其一，顧客最短時間享用食物的價值；其二，騎手的生命健康權(quán)；其三，路人的安全價值。求解之道，就是在最優(yōu)算法之外，多給予五分鐘的寬忍時間。另外，還值得思考的深層問題在于，以送餐的便利培養(yǎng)民眾外賣的習(xí)慣，是我們應(yīng)當(dāng)追求的價值嗎？
例二：人機(jī)互動
機(jī)器人照顧老人，會帶來一些便利，但與此同時，老年人的精神健康本質(zhì)上依賴于人類保姆與家人的接觸，將護(hù)理任務(wù)推卸給機(jī)器人而減少本來可以安排的親近會面，會給老人帶來自卑、恐懼等負(fù)面心理。解決方案：自然人與智能機(jī)器人應(yīng)當(dāng)做好分工。智能感應(yīng)器在幫助人類護(hù)理員方面前景很好，可以通過自動監(jiān)測藥物劑量和自動核對安全檢查清單，而人類護(hù)理員可以將更多的精力放在建設(shè)與被護(hù)理者之間的關(guān)系上。
例三：自動駕駛
在自動駕駛領(lǐng)域，價值判斷或者倫理選擇，是規(guī)則設(shè)計首先面對的問題。在設(shè)計自動駕駛系統(tǒng)時，如果在緊急情況下不得不發(fā)生碰撞，系統(tǒng)應(yīng)選擇保護(hù)車上的人還是保護(hù)路人？因而，立法應(yīng)當(dāng)介入這一本屬市場領(lǐng)域的事項，設(shè)定強(qiáng)制性規(guī)則。除了公共利益的考量之外，另一理由是，駕車的人享受了自動駕駛帶來的便利，也應(yīng)當(dāng)承擔(dān)由此帶來的風(fēng)險。
例四：腦機(jī)接口
人機(jī)混合智能技術(shù)，可以增加人的記憶，短時期內(nèi)提高智商，產(chǎn)生“有增強(qiáng)”和“無增強(qiáng)”兩種新類型的人。前者通過植入腦機(jī)接口，瞬間智商爆表，北大、清華輕而易舉，哈佛、耶魯也不在話下，這里產(chǎn)生了兩個問題：其一，社會公平問題。其二，人的自主性問題。我認(rèn)為，有關(guān)人格權(quán)的民事規(guī)范，或許將來在這方面有所反映。
所幸的是，《上海市促進(jìn)人工智能產(chǎn)業(yè)發(fā)展條例（草案）》對于人工智能的倫理問題，設(shè)了若干條款，其中，第63條（人工智能倫理委員會）規(guī)定，本市設(shè)立人工智能倫理專家委員會，推動建立人工智能領(lǐng)域倫理道德自律規(guī)范，對涉及生命健康、公共安全等重點領(lǐng)域人工智能應(yīng)用的潛在風(fēng)險開展評估。本市鼓勵相關(guān)主體開展人工智能電子人格、情感交互等前沿理論研究，推進(jìn)人工智能相關(guān)主體權(quán)利義務(wù)配置、責(zé)任承擔(dān)等問題的解決。
第64條（開發(fā)者倫理規(guī)范）規(guī)定，本市支持人工智能倫理專家委員會指導(dǎo)有關(guān)行業(yè)組織、企業(yè)等，制定人工智能產(chǎn)品研發(fā)設(shè)計人員道德規(guī)范和行為守則，加強(qiáng)對人工智能潛在危害與收益的評估，構(gòu)建人工智能復(fù)雜場景下突發(fā)事件的解決方案。
總之，在人工智能能力增強(qiáng)的同時，我們必須同步完成“道德增強(qiáng)”的過程，這是一個提升道德認(rèn)知、動機(jī)和行為的過程，我們必須從生命本原的角度來理解何為人生，以及在自然狀態(tài)下奮斗的意義與價值，只有這樣，我們才能更好地?fù)肀斯ぶ悄軙r代。
