智能機(jī)器不會(huì)很快統(tǒng)治世界，但當(dāng)它們拒絕你的貸款，撞了你的汽車(chē)，因?yàn)槟愕姆N族或性別歧視你的時(shí)候，會(huì)發(fā)生什么？
在一個(gè)層面上，答案很簡(jiǎn)單：“看情況。”南卡羅來(lái)納大學(xué)的法學(xué)教授Bryant Walker Smith說(shuō)。
但是，這打開(kāi)了一個(gè)更為復(fù)雜的法律辯論的大門(mén)。 “在我看來(lái)，我的機(jī)器人做錯(cuò)事并沒(méi)有借口。”總部位于西雅圖的艾倫人工智能研究所（Allen Institute for Artificial Intelligence簡(jiǎn)稱(chēng)AI?）的首席執(zhí)行官 Oren Etzioni說(shuō)。
美國(guó)的法律制度和政策制定者面對(duì)的挑戰(zhàn)迅速崛起，其是首次白宮關(guān)于人工智能的公開(kāi)研討會(huì)，在法律華盛頓大學(xué)醫(yī)學(xué)院展開(kāi)。整整一個(gè)下午，Smith，Etzioni等專(zhuān)家在座無(wú)虛席的禮堂討論人工智能的未來(lái)。
白宮副首席技術(shù)官Ed Felten說(shuō)，今天的討論將納入跨部門(mén)的決策過(guò)程，包括一份公開(kāi)報(bào)告，將于今年晚些時(shí)候公布，同時(shí)還有公開(kāi)信息邀請(qǐng)書(shū)的要求。
“敬請(qǐng)期待更多的RFI（request for information信息邀請(qǐng)書(shū)）。”Felten說(shuō)。
一個(gè)響亮而清晰的消息：人工智能的當(dāng)前狀態(tài)遠(yuǎn)遠(yuǎn)不夠先進(jìn)，辜負(fù)了像斯蒂芬·霍金，伊隆·馬斯克和比爾·蓋茨的后顧之憂。 “你得知道它們是哪里來(lái)的。”Etzioni說(shuō)。
“我認(rèn)為現(xiàn)在AI的確有一些非?，F(xiàn)實(shí)的問(wèn)題，我們應(yīng)該要馬上解決。”他說(shuō)。 “而AI的生存威脅不是其中之一。事實(shí)上，我認(rèn)為這讓我們從一些非?，F(xiàn)實(shí)的擔(dān)憂分心了。其一是有關(guān)工作。而另一個(gè)非常實(shí)際的是關(guān)于隱私權(quán)的。”
在工作方面，有人估計(jì)，在2050年，由于快速的自動(dòng)化，全球人口的一半或者更多，可能面臨失業(yè)。在隱私方面，通過(guò)互聯(lián)網(wǎng)收集的個(gè)人數(shù)據(jù)越來(lái)越多，并由日益智能化代理處理。
有時(shí)候處理會(huì)產(chǎn)生爭(zhēng)議的結(jié)果：例如，在一個(gè)實(shí)驗(yàn)中，研究人員發(fā)現(xiàn)，根據(jù)模擬的用戶配置文件，谷歌的AdFisher計(jì)劃更可能把高薪工作顯示給男性。而就在本周，ProPublica報(bào)道，用軟件程序評(píng)估刑事被告的再犯風(fēng)險(xiǎn)時(shí)，黑人比白人遭受的指責(zé)更嚴(yán)厲。
這是程序的錯(cuò)還是程序員的錯(cuò)呢？正如Smith說(shuō)，要看情況。
紐約的微軟研究院首席研究員Kate Crawford表示，機(jī)器背后的人類(lèi)不得不更加重視職業(yè)道德和問(wèn)責(zé)制，即使是在今天狹隘的人工智能工具的情況下。
“這些系統(tǒng)在一定程度上類(lèi)似黑盒子。”Crawford說(shuō)， “當(dāng)這些系統(tǒng)開(kāi)始成為基礎(chǔ)設(shè)施的時(shí)候，我認(rèn)為我們必須有最高水平的正當(dāng)程序和公正。”
Crawford說(shuō)，其中一項(xiàng)建議是開(kāi)展人工智能程序的外部審計(jì)，以確保它們產(chǎn)生理想的政策效果。耶魯大學(xué)法學(xué)教授 Jack Balkin說(shuō)，另一個(gè)建議是在決策過(guò)程中，計(jì)算機(jī)科學(xué)家應(yīng)該加入政策制定者的行列。
“我贊同，”Crawford說(shuō)。現(xiàn)在計(jì)算機(jī)科學(xué)家已經(jīng)組成一個(gè)團(tuán)隊(duì)，稱(chēng)為機(jī)器學(xué)習(xí)公平、透明、問(wèn)責(zé)制（ Fairness, Accountability and Transparency in Machine Learning）。
當(dāng)自動(dòng)駕駛和半自動(dòng)駕駛車(chē)集體上路，法律問(wèn)題很可能會(huì)成為主流。沃爾沃已經(jīng)承諾，將承擔(dān)涉及其自動(dòng)駕駛碰撞事故的全部責(zé)任，而特斯拉汽車(chē)就比較謹(jǐn)慎。
談到?jīng)Q定賠償責(zé)任的問(wèn)題，當(dāng)涉及廠商和用戶時(shí)，法律制度將不得不權(quán)衡反對(duì)派觀點(diǎn)的有效性，沒(méi)有涉及自動(dòng)化時(shí)，他們也是這樣做的，Smith說(shuō)。華盛頓大學(xué)計(jì)算機(jī)科學(xué)教授Pedro Domingos說(shuō)，人類(lèi)最終將習(xí)慣于把智能機(jī)器考慮在內(nèi)。
“事實(shí)上，很多事情人們本來(lái)覺(jué)得不舒服，但很快就會(huì)開(kāi)始覺(jué)得是理所當(dāng)然。”他說(shuō)。
Domingos說(shuō)，很可能對(duì)大范圍的應(yīng)用都適用，即使當(dāng)智能機(jī)器身背武器時(shí)。
“如果我發(fā)現(xiàn)自己在戰(zhàn)區(qū)，在我面前還有一架無(wú)人駕駛飛機(jī)，它在決定是否要拍我，我一點(diǎn)也不在乎該決定是由人還是機(jī)器所做。”他說(shuō)。 “只要他們做出正確的決定，讓我能存活下來(lái)就行。我寧愿機(jī)器來(lái)做這個(gè)決定。手術(shù)也同理，機(jī)器人有99％的成功幾率，而外科醫(yī)生的成功率是98.5％，我會(huì)選擇誰(shuí)？毫無(wú)疑問(wèn)：我寧愿選擇機(jī)器人。”
最終，社會(huì)可能接納AI程序守望彼此，以確保它們不出差錯(cuò)，Etzioni說(shuō)。但是，如果事情確實(shí)出了問(wèn)題，會(huì)有AI起訴另一個(gè)AI嗎？
