人工智能、自主系統(tǒng)的出現(xiàn)，不但挑戰(zhàn)了人類對自然的認(rèn)識，也挑戰(zhàn)了人類對自己的認(rèn)識，其中就包括各種不可想象變?yōu)楝F(xiàn)實后的法律風(fēng)險。人工智能離我們的生活有多遠(yuǎn)？人工智能時代，我們將面臨哪些風(fēng)險？又該如何防范？圍繞這些話題，《法制日報》記者與業(yè)內(nèi)研究人士展開了對話。

　　 對話人

　　 騰訊研究院研究員 曹建峰

　　 法制網(wǎng)記者 張昊

　　人工智能是什么

　　 記者：對于人工智能，很多人的了解還停留在科幻電影、阿爾法狗。從概念上說，人工智能是一種怎樣的存在？

　　 曹建峰：通俗地理解，人工智能就是機器能完成人類需要智力才能完成的任務(wù)。

　　 以往，我們認(rèn)為地球上只有人類才有智能，人類的智能包括理性思維、語言能力、邏輯推理和情感，可以解決問題，有自己的目標(biāo)，可以執(zhí)行行動。當(dāng)然，“智能”這個詞的邊界尚有很多爭議，也在不斷變化。目前對“人工智能”（AI）和“自主系統(tǒng)”（AS）中的人工智能概念在科學(xué)界還沒有達成一個共識。

　　 美國“人工智能教科書”以人類為參考，對人工智能有一個通常的定義，即像人一樣思考，像人一樣行動，理性思考和理性行動。對人工智能還有一些其他的定義，例如能自己設(shè)立目標(biāo)，然后制定一系列的計劃執(zhí)行出來。

　　 人工智能內(nèi)在的技術(shù)或核心用到了一些深度算法，例如神經(jīng)網(wǎng)絡(luò)算法，模擬人的大腦結(jié)構(gòu)，從而模擬人類思維、決策的過程。還有深度學(xué)習(xí)、基因算法、進化論等，深度算法技術(shù)支持著機器人進行某種決策。

　　 人工智能和以往的計算機程序的區(qū)別，就是它具有自主性，只需要給它一些最原始的數(shù)據(jù)，它自己可以推出一個結(jié)論，做出自己的決策和判斷，它有學(xué)習(xí)的能力，這就是自主性。

　　 記者：我們接觸比較早也比較多的人工智能，應(yīng)該算是聊天機器人軟件。它會通過所有用戶的使用過程進行語言學(xué)習(xí)，“進化”自己，逐漸進行更豐富的對話。當(dāng)然，聊天機器人軟件也會學(xué)到臟話，用戶在對話中告訴它“你說的是臟話”，它還會糾正自己。除了這種聊天機器人軟件，目前的日常生活里，我們還會遇到哪些人工智能應(yīng)用？

　　 曹建峰：國外大軟件公司都在推出自己的聊天機器人，目前這種應(yīng)用還是比較初步的。此外，例如自動駕駛汽車或輔助駕駛，駕駛員不需要按著方向盤，可以自主完成停車、變道、轉(zhuǎn)彎。人工智能應(yīng)用還有酒店服務(wù)機器人、救援機器人，個性化推薦等。

　　法律風(fēng)險有哪些

　　 記者：在影視劇中，我們會看到很多探討人工智能與人類倫理法律的問題。隨著人工智能技術(shù)的發(fā)展，我們在現(xiàn)實生活里是否也會遇到這些問題？

　　 曹建峰：AI系統(tǒng)應(yīng)用日益廣泛，進入了社會生活的很多方面。首先是安全問題，從法律角度看，就可以轉(zhuǎn)化為責(zé)任問題。例如無人駕駛會不會對我們的財產(chǎn)、人身安全造成傷害？司機坐在上面不需要自己開車，更像是一個乘客的角色。如果無人駕駛車輛出現(xiàn)故障，導(dǎo)致司機致人損害，司機是否能夠獲得賠償？在混合駕駛模式下，司機和車需要配合，發(fā)生了車禍，廠商是否需要擔(dān)責(zé)？司機和廠商的責(zé)任分配問題目前還比較模糊。

　　 再比如，如何保證人工智能遵守社會規(guī)范和社會價值，它面對風(fēng)險的時候怎么像人一樣決策。例如救援機器人，在老者和弱者之間怎么選擇，先救誰后救誰，這些都需要提前考慮。

　　 還有隱私的問題。人工智能發(fā)展迅速，它做出決策需要大量的個人數(shù)據(jù)存在人工智能系統(tǒng)中。人工智能系統(tǒng)對我們進行“畫像”，形成一個“感官的印象”。我們自己可能都無法知道我們被這些軟件或系統(tǒng)進行了畫像，更無從知曉這些畫像是否真實?；蛘哒f，系統(tǒng)給我們打一些標(biāo)簽，我們可能不知道它給我們打的是什么樣的標(biāo)簽，這些標(biāo)簽是不是錯誤或者有一些問題，這些標(biāo)簽轉(zhuǎn)移到其他場合的時候，會對我們的權(quán)利產(chǎn)生影響，比如可能影響我們申請貸款、找工作等。我們自己意識不到這個問題，因為它使用的信息是不公開不透明的。

　　 記者：也就是說，人工智能系統(tǒng)搜集的可能是片面的信息，在將來會對人的權(quán)利產(chǎn)生影響。

　　 曹建峰：人工智能系統(tǒng)收集什么信息、這個信息做怎樣的決策，我們自己是無法控制的，更多時候也是不知情的。

　　 比如，國外一些公司在招聘時會用AI對應(yīng)聘者進行人格測試，如果系統(tǒng)認(rèn)為應(yīng)聘者未來會患上某種疾病或懷孕，可能會造成應(yīng)聘者被拒，會違反禁止歧視的法律規(guī)定。

　　 還有一個問題是算法歧視，這是一個比較迫切的問題。以前有很多工作都是人來完成的，現(xiàn)在被人工智能系統(tǒng)代替，例如個性化推薦。

　　風(fēng)險該怎樣防控

　　 記者：關(guān)于人工智能可能產(chǎn)生的法律問題，我們是否應(yīng)提前做好應(yīng)對？

　　 曹建峰：現(xiàn)在討論有些問題可能還太早，比如人工智能的智力是否會超越人類、脫離人類控制等問題，目前來看還比較遠(yuǎn)。

　　 不過，一些比較具體的問題還是需要提前關(guān)注。比如無人駕駛汽車、混合駕駛汽車，很快就會進入我們的生活，其中涉及的法律問題需要提前考慮。

　　 記者：在剛才所提到的一些問題中，還包括財產(chǎn)和安全的威脅、責(zé)任、遵守人類的法則、算法歧視等，這些是否也都應(yīng)成為法律關(guān)注點？

　　 曹建峰：對，很多方面都是法律問題，可以用法律解決。事前的監(jiān)管主要是研發(fā)環(huán)節(jié)，如果不考慮人類社會的道德規(guī)范和價值規(guī)范，人工智能應(yīng)用投入市場之后，在面對危險和事故時，可能做出一些有違人類期待的決策。

　　 世界各國業(yè)界都很關(guān)心人工智能的研發(fā)環(huán)節(jié)，也就是說設(shè)計開發(fā)過程是否應(yīng)該有一些倫理守則，包括遵守人類的道德規(guī)范和價值規(guī)范、確保安全、公眾如何信任研發(fā)的AI系統(tǒng)。

　　 首先，成文的法律是必須要遵守的，成文的法律寫入代碼需要一些方法論。還有面對危機的時候，人工智能應(yīng)該遵守哪些善惡、是非的選擇，這些共識性的道德規(guī)則、社會和一些團體共同的價值觀要寫入代碼。

　　 在研發(fā)過程中，程序員寫出來的程序可能在技術(shù)上沒有瑕疵，但可能存在社會領(lǐng)域的漏洞，一旦應(yīng)用可能產(chǎn)生歧視或安全隱患，這就需要建立倫理委員會的審查機制，從社會規(guī)范和價值的角度審查算法、邏輯是否與人類規(guī)范、價值是一致的，并從專業(yè)角度給予建議。

　　 記者：通過剛才的對話可以看出，公開透明原則非常重要，但這一點該如何解決？

　　 曹建峰：信息透明這個問題有幾種解決方式，一是人工智能開源運動。開源軟件，顧名思義大家都可以共享源代碼，可以對軟件進行審查，可以及時發(fā)現(xiàn)一些問題。另一種方式是，人工智能系統(tǒng)可能不需要向每個人公開，但需要向?qū)徟谋O(jiān)管部門公開源代碼和其他的材料。

　　自動輔助駕駛，車輛會自覺“守法”嗎

　　 講述人：朱宏　北京市民

　　 2016年7月15日下午，我將車開上北京四環(huán)，開啟了自動輔助駕駛功能。

　　 在自動輔助駕駛模式下，車輛方向盤會自動根據(jù)道路方向轉(zhuǎn)動，帶動車輛轉(zhuǎn)彎。如果要并線，車主主動打燈后，在間距允許時，車輛將自動并線。泊車時，經(jīng)過一個空車位，停下掛倒擋，屏幕上會提示看到了車位，點擊“自動泊車”按鈕，車輛自動向后退進入車位擺正。

　　 在自動輔助駕駛模式下，車與駕駛者的交互，主要呈現(xiàn)在駕駛者視線正前方的儀表盤上。當(dāng)車已經(jīng)識別出車道線，或者識別出前車跟隨后，駕駛者就可以打開“限速行駛”。限速是指車的攝像頭探測到道路邊的限速牌標(biāo)示的數(shù)字。車會馬上提速，以盡可能快又不撞上前車的速度行駛，此后，駕駛者就可以啟動自動輔助駕駛模式了。進入自動輔助駕駛模式時，屏幕會提示“請保持雙手不離開方向盤”。

　　 繞四環(huán)近70公里路程，我分了兩段。第一段，我從四元橋出發(fā)，到四惠附近的一家交互設(shè)計公司。第二段，我從四惠出發(fā)往南，繞四環(huán)回到酒仙橋。再說一下路況，我在四惠、學(xué)院橋、望京橋遭遇明顯擁堵，西四環(huán)暢通。這次繞四環(huán)總共耗時一個多小時，還算比較順利。

　　 在自動輔助駕駛繞四環(huán)一圈過程中，我被嚇出冷汗兩次。第一次是有車輛不文明駕駛惡意并線，當(dāng)時輔助駕駛察覺到了旁邊的車突然加塞進來，車已經(jīng)開始減速，我還是親自“上陣”。

　　 第二次是我從四惠橋出四環(huán)開向京通快速路時，幾條道匯合的地方有十來根半米高的塑料小欄桿，自動輔助駕駛中的車似乎沒檢測出這些塑料小欄桿，直接往小欄桿上開，我察覺到之后馬上主動剎車。

　　 這趟四環(huán)“開”下來，為了按交通規(guī)則安全并線，我強行打斷自動輔助駕駛近10次；遇到其他車輛不文明行駛強行并線，我強行剎車20多次；出現(xiàn)其他感知到的危險情況，我主動打斷自動輔助駕駛近10次。

　　 其間，我頭一次認(rèn)真觀察周圍的那些車，才發(fā)現(xiàn)有那么多車違反交通規(guī)則壓著線占兩車道行駛。在自動輔助駕駛模式下，車輛會分析道路白線；當(dāng)有前車可以跟隨時，會優(yōu)先以前車為準(zhǔn)，白線為參考。當(dāng)遇到前車隨意壓線時，自動輔助駕駛模式下的車輛也會跟著隨意壓線，緊跟前車的交通違法節(jié)奏。

　　 車在自動輔助駕駛時是跟隨車道而行，自動輔助駕駛模式在車道線清晰的大路上會很理想，在小路和施工路段上不太可靠。

　　 平時，我開車?yán)@四環(huán)一圈是不需要休息的。打開自動輔助駕駛模式，反而因精力太集中需要緩解精神，我停車在路邊休息了3次。

　　 關(guān)于自動輔助駕駛，我的感受是這項功能可用，但是駕駛者不能分神。自動輔助駕駛也需要駕駛者與機器有一個互相信任的過程。