“在人工智能一片叫好的合唱中，總偶爾有兩三個(gè)不和諧的聲音。這不和諧的代表在名人界是霍金，在企業(yè)界是伊隆·馬斯克。人工智能圈內(nèi)對(duì)霍金的反駁多是其為外行，不理解人工智能的最新發(fā)展。對(duì)伊隆·馬斯克的反駁則溫柔得多，因?yàn)槠涔咎厮估侨斯ぶ悄艿拇髴襞c前沿，是業(yè)內(nèi)人士，不能以外行來(lái)簡(jiǎn)單駁斥。”

 

　　這是比特大陸芯片研發(fā)總監(jiān)謝丹向新智元投來(lái)的稿件的開頭。仿佛是為了配合這段話，馬斯克在推特上又更新了狀態(tài)，這次他說(shuō)：如果你還沒開始擔(dān)心人工智能的安全問題，那該開始擔(dān)心了。人工智能比朝鮮“更危險(xiǎn)”。

　　照片下面，幾個(gè)大字分外鮮明：最終，機(jī)器會(huì)獲勝。

 

　　本文作者謝丹，比特大陸芯片研發(fā)總監(jiān)。美國(guó)硅谷8年芯片研發(fā)經(jīng)驗(yàn)，后擔(dān)任某初創(chuàng)企業(yè)研發(fā)總監(jiān)，直至其上市。業(yè)界稱履歷某地區(qū)所有芯片設(shè)計(jì)企業(yè)的CTO；成功Tape-out數(shù)款芯片，工藝制程從0.35um至16nm；全定制、單元庫(kù)、定制模塊、圖形芯片、交換機(jī)芯片等多種設(shè)計(jì)領(lǐng)域的資深專家。

 

 

　　在人工智能一片叫好的合唱中，總偶爾有兩三個(gè)不和諧的聲音。這不和諧的代表在名人界是霍金，在企業(yè)界是伊隆·馬斯克。人工智能圈內(nèi)對(duì)霍金的反駁多是其為外行，不理解人工智能的最新發(fā)展。對(duì)伊隆·馬斯克的反駁則溫柔得多，因?yàn)槠涔咎厮估侨斯ぶ悄艿拇髴襞c前沿，是業(yè)內(nèi)人士，不能以外行來(lái)簡(jiǎn)單駁斥。

 

　　其實(shí)，馬斯克和霍金還有個(gè)共同點(diǎn)：他們都是學(xué)物理的，他們的思維更多是物理學(xué)背景的思維。物理學(xué)的思維模式和學(xué)數(shù)學(xué)/計(jì)算機(jī)科學(xué)不太一樣，物理學(xué)家一貫覺得自己眼界遠(yuǎn)些。在我看來(lái)，最近馬斯克在推特上被圍攻，真是物理學(xué)與CS關(guān)系的常見現(xiàn)象。

 

　　馬斯克在他的訪談中多次把自己的成功和遠(yuǎn)見歸功于物理學(xué)思維方式，即第一原理思維。比如他的訪談中提到：我們運(yùn)用「第一原理思維」而不是「比較思維」去思考問題是非常重要的。我們?cè)谏钪锌偸莾A向于比較——別人已經(jīng)做過了或者正在做這件事情，我們就也去做。這樣的結(jié)果是只能產(chǎn)生細(xì)小的迭代發(fā)展?！傅谝辉怼沟乃伎挤绞绞怯梦锢韺W(xué)的角度看待世界的方法，也就是說(shuō)一層層剝開事物的表象，看到里面的本質(zhì)，然后再?gòu)谋举|(zhì)一層層往上走。這要消耗大量的腦力。

 

　　如何看待人工智能，在物理學(xué)的角度看，我們可以參考自然界的智能：人的智能。我們來(lái)拆拆人腦智能這個(gè)機(jī)器，看看造就它的基本原因是什么？簡(jiǎn)單分析下來(lái)，還是三個(gè)因素：硬件、軟件和大數(shù)據(jù)。

 

　　區(qū)分人以及黑猩猩的基因并不多，而且大多是身體結(jié)構(gòu)上的。黑猩猩屬與人類有最近的共同祖先，研究指出人類和黑猩猩屬有99.4%的基因一模一樣，智商相當(dāng)于人類5~7歲。這次進(jìn)化分叉后直立人從大約8百萬(wàn)年到百萬(wàn)年間多次走出非洲但多次滅絕，直到20萬(wàn)年前的一次成功出走。DNA分析現(xiàn)代人類都有著共同祖先，是大約15-20萬(wàn)年前一男一女的后代，即所謂夏娃和亞當(dāng)理論。我覺得20萬(wàn)年前這個(gè)時(shí)間點(diǎn)可以算做人類的硬件ready的充分點(diǎn)：即從這個(gè)點(diǎn)之后，人類大腦硬件有了突破，智能相對(duì)其它生物有了強(qiáng)大的生物競(jìng)爭(zhēng)優(yōu)勢(shì)。

 

　　人類學(xué)家和生物學(xué)家一直想找到這個(gè)突破后面的機(jī)制，目前尚未找到。但是我們至少看到很強(qiáng)的證據(jù)：無(wú)論你怎么培養(yǎng)/教育黑猩猩，甚至在多代的教育下，黑猩猩依然無(wú)法超過6-7歲的智力水準(zhǔn)。因此，我覺得這個(gè)約束來(lái)自人類大腦的約束，是硬件的約束。

 

　　從20萬(wàn)年前進(jìn)入到2萬(wàn)年前，人類逐漸從強(qiáng)大競(jìng)爭(zhēng)優(yōu)勢(shì)變成了壓倒性競(jìng)爭(zhēng)優(yōu)勢(shì)，人更多的戰(zhàn)爭(zhēng)來(lái)自人與人之間，而不是人與自然生物之間了?，F(xiàn)代人的任何一支分支在某個(gè)地理都是處于該區(qū)域的生態(tài)鏈最高層。這段時(shí)間應(yīng)該有另外一個(gè)飛躍，這個(gè)飛躍很可能是來(lái)自于人類大腦硬件的能力充分發(fā)揮。很多人類學(xué)家認(rèn)為，這個(gè)因素可能是語(yǔ)言，有人認(rèn)為是農(nóng)業(yè)、宗教等。我們可以認(rèn)為，因?yàn)閺?fù)雜語(yǔ)言的出現(xiàn)，人的大腦智能得以快速的提升，可以認(rèn)為是大腦軟件的成功。

 

　　更近的一次人類智能大飛躍，則比較清楚明確了：文字。在5000年前左右，人類開始出現(xiàn)文字，文字不僅可以將思想傳播從父?jìng)鞯阶?，而且可以在群體內(nèi)以及群體間傳播。人類的知識(shí)/智能在這之后基本就是一條方向線的發(fā)展，這個(gè)階段可以算是知識(shí)的積累。換句話說(shuō)：這是個(gè)大數(shù)據(jù)驅(qū)動(dòng)的人類智能的發(fā)展。

 

　　所以，總結(jié)下，人類智能的發(fā)展大致是二十萬(wàn)年前硬件ready（大腦的基因），2萬(wàn)年前軟件ready（復(fù)雜語(yǔ)言的行成），5千年前開始大數(shù)據(jù)驅(qū)動(dòng)（文字的形成）。

 

 

　　我們?cè)賮?lái)看看人工智能在最近的飛躍發(fā)展，人工智能到了哪一步？

 

　　隨著學(xué)術(shù)界深度神經(jīng)網(wǎng)絡(luò)在圖像和聲音的效果體現(xiàn)以及2016年李世石與阿爾法狗世紀(jì)之戰(zhàn)，我們基本可以說(shuō)，這是硬件和軟件都ready 了。特別是圍棋的突破，它的意義有兩個(gè)：第一，它和圖像與聲音這兩個(gè)學(xué)術(shù)界重重研究不同， 這基本是個(gè)新功能，它的成功表明了人工智能的普適性。第二，圍棋是業(yè)界公認(rèn)無(wú)法靠硬件突破的，所以它的成功可以標(biāo)桿是軟件的ready。（因?yàn)樵谌斯ぶ悄艹晒χ?，我們不知道到底是硬件限制還是軟件限制）

 

　　為什么這兩點(diǎn)這么重要？因?yàn)榘雽?dǎo)體有一個(gè)摩爾定律：每18個(gè)月性能增倍。這個(gè)翻譯過來(lái)，就是每5年性能提高10倍。

 

　　在深度學(xué)習(xí)之前，電腦圍棋的段位大致在業(yè)余四段，行業(yè)內(nèi)（圍棋界和計(jì)算機(jī)界）認(rèn)為要達(dá)到世界冠軍水準(zhǔn)大約需要20年。但是深度學(xué)習(xí)引入之后，2016年就戰(zhàn)勝了李世石，軟件提前了二十年的硬件發(fā)展。也就是說(shuō)，這深度學(xué)習(xí)讓硬件可能提高了差不多一萬(wàn)倍的效率。

 

　　然后在一年之后，新版的阿爾法狗就基本能讓柯潔三子了。（澄清：阿爾法狗和柯潔從未下過讓子棋，但是新版阿爾法狗可以讓舊版三子，柯潔私下說(shuō)過讓兩子自己會(huì)輸，而且柯潔和阿爾法之戰(zhàn)完全無(wú)勝機(jī)，這是差三子水準(zhǔn)的表現(xiàn)）。當(dāng)然，這次飛躍的原因是阿爾法狗幾千萬(wàn)局自我對(duì)局后的結(jié)果，也就是大數(shù)據(jù)驅(qū)動(dòng)的智能上升。

 

　　所以在圍棋這個(gè)單一智能的表現(xiàn)上，人工智能從硬、件軟件和大數(shù)據(jù)全面體現(xiàn)了其超越性。這其中，軟件和大數(shù)據(jù)的威力更是超出預(yù)期。深度學(xué)習(xí)軟件使得圍棋能力提高了萬(wàn)倍的效率，那么大數(shù)據(jù)提高了多少呢？圍棋在阿爾法狗之前的十年大約從業(yè)余初段升到業(yè)余四段，這是個(gè)相差兩子強(qiáng)三子弱的水平差。在一年之后的新版阿爾法狗能讓一年前版本三子，也就是說(shuō)大數(shù)據(jù)一年的提高相當(dāng)于硬件10年100倍的硬件提升。

 

　　在人類圍棋的歷史上，導(dǎo)致圍棋智能上升三子大概有兩次：一次是日本道策采用手割的原理，對(duì)圍棋子力的量化分析；一次是吳清源和木谷實(shí)提出的新布局理論，從全局地與勢(shì)的棋子配合進(jìn)行局面分析。這兩次本身可能只有兩子的提高，但是之后眾人的完善則能造成3子的進(jìn)步。從圍棋產(chǎn)生到道策大約是2000年的對(duì)局積累，從道策到新布局是近三百多年的對(duì)局積累，而阿爾法狗只花了一年。道策之前大約有幾千局對(duì)局棋譜，認(rèn)真分析了大約幾百局；新布局之前大約有十幾萬(wàn)的對(duì)局棋譜，認(rèn)真分析了的大約幾千局；阿爾法狗通過數(shù)千萬(wàn)的對(duì)局，認(rèn)真分析多少不知。這似乎也表明智能的提升一個(gè)等級(jí)，數(shù)據(jù)至少要一百倍以上的差異啊。

 

　　三子在圍棋界中有個(gè)梗：圍棋之神能讓我三子。意思是任何一個(gè)時(shí)代最強(qiáng)大的棋手，在被問到與圍棋之神的差距時(shí)，都會(huì)回答大概三子吧。所以，當(dāng)谷歌告訴中國(guó)棋院和柯潔新版阿爾法狗能讓舊版三子時(shí)，柯潔被嚇呆了?？上?，當(dāng)神來(lái)時(shí)，中國(guó)棋院的選擇是分先下，稱之謂捍衛(wèi)人類尊嚴(yán)。這樣被碾壓，不知道是怎么捍衛(wèi)了人類尊嚴(yán)。如果真進(jìn)行了讓兩子和讓三子的比賽，或許真能逼出阿爾法狗的最強(qiáng)手段，讓我們能一窺神的境界吧。阿爾法狗在更多對(duì)局下還能再長(zhǎng)三子的棋力嗎？因?yàn)榘柗ü凡辉倮^續(xù)研究圍棋，我們無(wú)法知道了。從大數(shù)據(jù)上說(shuō)，估計(jì)阿爾法狗至少還需要再100倍以上數(shù)十億次對(duì)局的棋譜，才有可能。這個(gè)成本在目前太大了，估計(jì)沒有什么意義。

 

　　在金融、自動(dòng)駕駛、圖像識(shí)別、圍棋、語(yǔ)音識(shí)別、語(yǔ)言翻譯、疾病診斷等各個(gè)智能領(lǐng)域，現(xiàn)在人工智能基本都到了這樣的地步：比大多數(shù)普通人強(qiáng)，接近專家水準(zhǔn)，比頂尖專家差。這可能是因?yàn)檫@些領(lǐng)域中的大數(shù)據(jù)不可能像圍棋這么容易快速獲得、游戲勝負(fù)規(guī)則不是圍棋這樣能簡(jiǎn)單易判斷造成的。但是，假設(shè)有更強(qiáng)大的硬件，更簡(jiǎn)明規(guī)則/更優(yōu)化的軟件，更長(zhǎng)時(shí)間積累的大數(shù)據(jù)，理論上，人工智能的進(jìn)化是無(wú)限的。

 

　　在現(xiàn)在這個(gè)點(diǎn)，約束人工智能大規(guī)模布置的原因是什么？其實(shí)已經(jīng)基本不是硬件而是成本了。要建一套頂尖的人工智能，目前至少需要投資硬件、軟件、人員等1-10億美元以上。所以最開始被廣泛布置人工智能的金融、搜索結(jié)果優(yōu)化、自動(dòng)駕駛等，都是能帶來(lái)巨大市場(chǎng)回報(bào)的。不過摩爾定律：每10年芯片降低100倍的價(jià)格，可以想象下10年20年后人工智能的領(lǐng)域?qū)?huì)擴(kuò)展到百倍萬(wàn)倍更小得多的市場(chǎng)領(lǐng)域，應(yīng)用場(chǎng)景無(wú)限廣泛。

 

　　更強(qiáng)大硬件、更優(yōu)化軟件以及更直接大量的數(shù)據(jù)，人工智能在每個(gè)方面的進(jìn)步速度都遠(yuǎn)遠(yuǎn)地超過我們。就像所有人類發(fā)明的機(jī)器一樣，任何一個(gè)功能一旦被超越，人類再?zèng)]有機(jī)會(huì)反超回去了。

 

 

　　假設(shè)說(shuō)，人工智能只是能替代更多的工作，我們對(duì)其是不需要恐懼的。AI代替人類工作這種擔(dān)憂，就和自動(dòng)化代替人類工作一樣，會(huì)被人類社會(huì)通過各種手段逐漸化解?，F(xiàn)代科技的機(jī)械化和自動(dòng)化大大地提高人類生活品質(zhì)，從而導(dǎo)致人類社會(huì)文化的大繁榮，人類在現(xiàn)代社會(huì)中音樂文學(xué)藝術(shù)影視等非生產(chǎn)性的從業(yè)人數(shù)比例是一直上升的。即使少部分人會(huì)受到影響，人類社會(huì)整體在人工智能發(fā)展中是會(huì)收益巨大的。

 

　　對(duì)于人工智能把人類變成奴隸的擔(dān)憂，也基本不可能出現(xiàn)。因?yàn)闊o(wú)論是做為動(dòng)力的蒸汽機(jī)還是做為智能的人工智能，都有著一樣的弱點(diǎn)：功能極強(qiáng)大但轉(zhuǎn)化效率極低。單位能耗下的智能不僅與人類相差遙遠(yuǎn)，而且估計(jì)可能永遠(yuǎn)無(wú)法超越人類。人工智能和所有機(jī)器一樣存在著能源獲得的約束、易被破壞、功能單一等不可克服的缺點(diǎn)。而且人類做為一個(gè)整體，智能是非常睿智的，對(duì)于邪惡的人工智能這種可能，相信人類是能夠找到預(yù)防和隔離的辦法的。

 

　　其實(shí)人工智能真正的危險(xiǎn)應(yīng)該來(lái)自：邪惡個(gè)人控制的人工智能。當(dāng)20年后，要開發(fā)一套新功能的人工智能只需要幾萬(wàn)美元，各種調(diào)試軟件的辦法更加成熟，數(shù)據(jù)無(wú)比豐富。一個(gè)瘋狂科學(xué)家（mad scientist）是很可能通過人工智能對(duì)社會(huì)帶來(lái)強(qiáng)大的破壞性。這本來(lái)就是現(xiàn)代科技與現(xiàn)代社會(huì)的弱點(diǎn)：毀滅與建設(shè)的成本對(duì)比是不斷下降的。比如911 恐怖襲擊后，為了防止下一個(gè)911，投入的成本與恐怖分子投入的成本比例估計(jì)是上萬(wàn)倍了。

 

　　假設(shè)瘋狂者把人工智能應(yīng)用在設(shè)計(jì)傳染性更強(qiáng)死亡率更高的病毒、尋求人群密度更高的恐怖襲擊、能自己行走自己尋找目標(biāo)的人工智能自殺炸彈、更挑動(dòng)人群情緒的釣魚謠言、能更有效洗人頭腦的廣告宣傳、散布偏見與仇恨的思想、研發(fā)制造原子核武器等等。這種邪惡個(gè)人控制下的人工智能，才是各個(gè)政府與社會(huì)最頭痛的，我們?nèi)绾畏乐棺羁膳碌暮蠊?，才是人類社?huì)最大的風(fēng)險(xiǎn)。

 

　　人工智能不能毀滅人類，但是人可能毀滅人類。正是對(duì)此后果的畏懼，才使得馬斯克投入大量資金去研發(fā)航天火箭。防止某些人毀滅人類，或許隔離才是最有效的措施，人類現(xiàn)在能看到的最嚴(yán)密的隔離大概就是星球間的間距吧。（如果是人工智能毀滅了人類，星球間的間距根本無(wú)法阻止人工智能的進(jìn)擊）

 

　　這是馬斯克的遠(yuǎn)見還是他的杞人憂天，我們大多數(shù)人有生之年就可能看到結(jié)果的。