現(xiàn)實(shí)世界中，不完美信息才是常態(tài)，各種看不見的隱藏信息產(chǎn)生了大量的不確定性，而德州撲克代表的就是這種類型的博弈。

 

　　人工智能發(fā)展的終極目標(biāo)，是通用人工智能（AGI）。通用人工智能可以解決任何一個(gè)問題，而不是像Libratus或者AlphaGo這樣只能專注于撲克或者圍棋。想要實(shí)現(xiàn)AGI就得讓人工智能學(xué)會(huì)解決不確定性問題，這也是此次人機(jī)大戰(zhàn)的重大意義之一。

 

　　機(jī)器人三定律適用于人工智能嗎？

 

　　那么，Asimov的機(jī)器人三定律還能適用于人工智能嗎？

 

　　讓我們先看看Asimov時(shí)代對(duì)機(jī)器人是怎么設(shè)想的。那個(gè)時(shí)代中，機(jī)器人是按照馮諾依曼的思想來設(shè)計(jì)的。程序員可以隨心所欲的控制它們的行為，那時(shí)候的機(jī)器是一個(gè)確定性的系統(tǒng)，只需加載一條條指令，它們就按程序員所設(shè)想的那樣工作。

 

　　在今天，人工智能的設(shè)計(jì)發(fā)生了很大變化，科學(xué)家們意識(shí)到，那種馮諾依曼式的自上而下的控制式程序不太可能實(shí)現(xiàn)人工智能，現(xiàn)今最優(yōu)秀的人工智能都是基于遺傳算法，它模擬是大腦的神經(jīng)網(wǎng)絡(luò)的工作方式，人們?yōu)檫@樣的技術(shù)付出的代價(jià)就是，人們?cè)僖膊豢赡芡耆斫馊斯ぶ悄苁侨绾喂ぷ鞯牧?。人們只能通過對(duì)輸出進(jìn)行觀察然后形成一個(gè)關(guān)于人工智能行為的經(jīng)驗(yàn)性感覺，機(jī)器的內(nèi)部工作原理之于程序員更像是一個(gè)黑箱。舉個(gè)例子，未來的機(jī)器人可能會(huì)很有效的執(zhí)行到超市購(gòu)物的這一行為，但是不管程序員如何修改他的適度函數(shù)，也很難保證機(jī)器人在購(gòu)物途中不去傷害一只擋道的貓，或者破壞一輛汽車。Asimov同樣忽略了計(jì)算機(jī)智能可能會(huì)誕生在網(wǎng)絡(luò)，人們很容易設(shè)計(jì)出一套協(xié)議來確保網(wǎng)絡(luò)中的某個(gè)節(jié)點(diǎn)不會(huì)制造混亂，但卻無法控制計(jì)算機(jī)網(wǎng)絡(luò)的智能涌現(xiàn)。

 

　　事實(shí)上，人工智能恐怕再過一段時(shí)間就要抵達(dá)技術(shù)奇點(diǎn)，發(fā)生爆炸式增長(zhǎng)，徹底把人類智能甩在后面。

 

　　而如果這樣一個(gè)超級(jí)智能的程序編得不夠好，或者它不在乎人類的需求，那么對(duì)我們而言就是徹頭徹尾的災(zāi)難。我們必須保證它是安全的。

 

　　早在2014年，時(shí)任機(jī)器智能研究所（Machine Interlligence Research Institute，MIRI）代理主任、兼Louie Helm和艾迪亞金融預(yù)測(cè)公司首席科學(xué)家Ben Goertzel曾經(jīng)討論過Asimov的機(jī)器人三定律是否適用于人工智能的話題。

 

　　Ben Goertzel表示，Asimov預(yù)想的機(jī)器人過不了多久就會(huì)實(shí)現(xiàn)。但是在他大部分小說里，看起來人類級(jí)別的機(jī)器人好像就是機(jī)器人學(xué)和AI工程的頂峰了。事實(shí)看起來并非如此。在抵達(dá)Asimov式類人機(jī)器人之后，很快超人AI也會(huì)成為可能。

 

　　Louie Helm認(rèn)為，對(duì)人類來說最主要的問題，不是一大群半智能人形機(jī)器人所需的道德規(guī)范，而是高階人工智能最終會(huì)出現(xiàn)（不管有沒有軀體），其功能遠(yuǎn)遠(yuǎn)超過人類水平。人類早晚必須要跨過超級(jí)智能這個(gè)坎。這也是為何開發(fā)安保措施如此重要。在我看來，機(jī)器人、仿生人、模擬大腦什么的都無關(guān)緊要，我們最多和它們相處一二十年，之后就要面對(duì)真正的大問題——為超級(jí)智能開發(fā)倫理道德。
 

 

 

　　1月17日，IBM首席執(zhí)行官Ginni Rometty在瑞士達(dá)沃斯世界經(jīng)濟(jì)論壇上發(fā)表了演講，介紹了人工智能技術(shù)部署的基本原則，呼吁業(yè)界需要在人工智能和認(rèn)知應(yīng)用方面增加透明度及分析其倫理和社會(huì)影響。

 

　　Rometty表示，IBM作為行業(yè)領(lǐng)袖，有責(zé)任將人工智能技術(shù)引導(dǎo)它們進(jìn)入安全的世界。

 

　　Rometty認(rèn)為人工智能就是一種新技術(shù)及由此衍生的認(rèn)知系統(tǒng)，人工智能將在不久的未來滲入人們工作和生活的方方面面，可能會(huì)令一切變得更美好，和以前的改變世界的各種技術(shù)一樣，人工智能的意義重大。許多由此導(dǎo)致的問題在今天尚無答案，找到答案需要時(shí)間、研究和公開討論。

 

　　在這次會(huì)議上，Rometty提出了人工智能三原則，包括：目的、透明度、技能。

 

 

　　人們?cè)谌斯ぶ悄芟到y(tǒng)中建立信任很重要。IBM認(rèn)為人工智能系統(tǒng)的目的是為了服務(wù)人類，而不是取代人類。Rometty說：“我們的技術(shù)、產(chǎn)品、服務(wù)和政策旨在加強(qiáng)和擴(kuò)展人類的能力、專業(yè)知識(shí)和潛力。我們的立足點(diǎn)不僅僅是基于原則，也是基于科學(xué)。認(rèn)知系統(tǒng)不會(huì)具有實(shí)際意義上的意識(shí)或成為獨(dú)立的個(gè)體。”

 

　　IBM Watson現(xiàn)在與汽車，iPhone和醫(yī)療保健組織集成。Rometty說，認(rèn)知計(jì)算系統(tǒng)今年將通過各行業(yè)的業(yè)務(wù)解決方案觸及大約10億人。這些都是IBM從其工作中獲得的倫理見解。

 

 

　　Rometty說，在構(gòu)建人工智能系統(tǒng)平臺(tái)時(shí)，必須清楚它們是如何訓(xùn)練的，以及在訓(xùn)練中使用了什么樣的數(shù)據(jù)——也就是說透明度。人類需要保持對(duì)系統(tǒng)的控制。這些系統(tǒng)不會(huì)有自我意識(shí)或意識(shí)。她還補(bǔ)充道，IBM將會(huì)就旗下人工智能的開發(fā)和部署的時(shí)間表和目的公開細(xì)節(jié)。

 

 

　　Rometty認(rèn)為，人工智能系統(tǒng)平臺(tái)必須與行業(yè)內(nèi)的人員合作，無論是醫(yī)生、教師還是承銷商。公司必須準(zhǔn)備培訓(xùn)員工如何使用這些工具來獲得優(yōu)勢(shì)。

 

　　例如，沃森的腫瘤學(xué)顧問現(xiàn)在在印度、中國(guó)、泰國(guó)、芬蘭和荷蘭推廣。它由世界上最好的腫瘤學(xué)家培訓(xùn)。例如，印度就有一位腫瘤學(xué)醫(yī)生為1600名患者做出了診斷。換言之，就是人工智能部署需要將人類因素納入有關(guān)的等式里，幫助普羅大眾獲取使用新服務(wù)所需的技能。

 

　　人工智能的目的不是把機(jī)器變成人，也不是把人變成機(jī)器，而是要擴(kuò)展人類的智能和能力，幫助所有的人提高生活質(zhì)量。雖然在過去兩年這個(gè)概念在面向大眾普及，但距離現(xiàn)實(shí)應(yīng)用仍較遠(yuǎn)。

 

　　超級(jí)人工智能的崛起，是人類的希望，還是人類的末日呢？現(xiàn)在，誰都不知道。