“在人工智能一片叫好的合唱中，總偶爾有兩三個不和諧的聲音。這不和諧的代表在名人界是霍金，在企業(yè)界是伊隆·馬斯克。人工智能圈內(nèi)對霍金的反駁多是其為外行，不理解人工智能的最新發(fā)展。對伊隆·馬斯克的反駁則溫柔得多，因為其公司特斯拉是人工智能的大戶與前沿，是業(yè)內(nèi)人士，不能以外行來簡單駁斥。”

 

　　這是比特大陸芯片研發(fā)總監(jiān)謝丹向新智元投來的稿件的開頭。仿佛是為了配合這段話，馬斯克在推特上又更新了狀態(tài)，這次他說：如果你還沒開始擔心人工智能的安全問題，那該開始擔心了。人工智能比朝鮮“更危險”。

　　照片下面，幾個大字分外鮮明：最終，機器會獲勝。

 

　　本文作者謝丹，比特大陸芯片研發(fā)總監(jiān)。美國硅谷8年芯片研發(fā)經(jīng)驗，后擔任某初創(chuàng)企業(yè)研發(fā)總監(jiān)，直至其上市。業(yè)界稱履歷某地區(qū)所有芯片設(shè)計企業(yè)的CTO；成功Tape-out數(shù)款芯片，工藝制程從0.35um至16nm；全定制、單元庫、定制模塊、圖形芯片、交換機芯片等多種設(shè)計領(lǐng)域的資深專家。

 

 

　　在人工智能一片叫好的合唱中，總偶爾有兩三個不和諧的聲音。這不和諧的代表在名人界是霍金，在企業(yè)界是伊隆·馬斯克。人工智能圈內(nèi)對霍金的反駁多是其為外行，不理解人工智能的最新發(fā)展。對伊隆·馬斯克的反駁則溫柔得多，因為其公司特斯拉是人工智能的大戶與前沿，是業(yè)內(nèi)人士，不能以外行來簡單駁斥。

 

　　其實，馬斯克和霍金還有個共同點：他們都是學(xué)物理的，他們的思維更多是物理學(xué)背景的思維。物理學(xué)的思維模式和學(xué)數(shù)學(xué)/計算機科學(xué)不太一樣，物理學(xué)家一貫覺得自己眼界遠些。在我看來，最近馬斯克在推特上被圍攻，真是物理學(xué)與CS關(guān)系的常見現(xiàn)象。

 

　　馬斯克在他的訪談中多次把自己的成功和遠見歸功于物理學(xué)思維方式，即第一原理思維。比如他的訪談中提到：我們運用「第一原理思維」而不是「比較思維」去思考問題是非常重要的。我們在生活中總是傾向于比較——別人已經(jīng)做過了或者正在做這件事情，我們就也去做。這樣的結(jié)果是只能產(chǎn)生細小的迭代發(fā)展。「第一原理」的思考方式是用物理學(xué)的角度看待世界的方法，也就是說一層層剝開事物的表象，看到里面的本質(zhì)，然后再從本質(zhì)一層層往上走。這要消耗大量的腦力。

 

　　如何看待人工智能，在物理學(xué)的角度看，我們可以參考自然界的智能：人的智能。我們來拆拆人腦智能這個機器，看看造就它的基本原因是什么？簡單分析下來，還是三個因素：硬件、軟件和大數(shù)據(jù)。

 

　　區(qū)分人以及黑猩猩的基因并不多，而且大多是身體結(jié)構(gòu)上的。黑猩猩屬與人類有最近的共同祖先，研究指出人類和黑猩猩屬有99.4%的基因一模一樣，智商相當于人類5~7歲。這次進化分叉后直立人從大約8百萬年到百萬年間多次走出非洲但多次滅絕，直到20萬年前的一次成功出走。DNA分析現(xiàn)代人類都有著共同祖先，是大約15-20萬年前一男一女的后代，即所謂夏娃和亞當理論。我覺得20萬年前這個時間點可以算做人類的硬件ready的充分點：即從這個點之后，人類大腦硬件有了突破，智能相對其它生物有了強大的生物競爭優(yōu)勢。

 

　　人類學(xué)家和生物學(xué)家一直想找到這個突破后面的機制，目前尚未找到。但是我們至少看到很強的證據(jù)：無論你怎么培養(yǎng)/教育黑猩猩，甚至在多代的教育下，黑猩猩依然無法超過6-7歲的智力水準。因此，我覺得這個約束來自人類大腦的約束，是硬件的約束。

 

　　從20萬年前進入到2萬年前，人類逐漸從強大競爭優(yōu)勢變成了壓倒性競爭優(yōu)勢，人更多的戰(zhàn)爭來自人與人之間，而不是人與自然生物之間了?，F(xiàn)代人的任何一支分支在某個地理都是處于該區(qū)域的生態(tài)鏈最高層。這段時間應(yīng)該有另外一個飛躍，這個飛躍很可能是來自于人類大腦硬件的能力充分發(fā)揮。很多人類學(xué)家認為，這個因素可能是語言，有人認為是農(nóng)業(yè)、宗教等。我們可以認為，因為復(fù)雜語言的出現(xiàn)，人的大腦智能得以快速的提升，可以認為是大腦軟件的成功。

 

　　更近的一次人類智能大飛躍，則比較清楚明確了：文字。在5000年前左右，人類開始出現(xiàn)文字，文字不僅可以將思想傳播從父傳到子，而且可以在群體內(nèi)以及群體間傳播。人類的知識/智能在這之后基本就是一條方向線的發(fā)展，這個階段可以算是知識的積累。換句話說：這是個大數(shù)據(jù)驅(qū)動的人類智能的發(fā)展。

 

　　所以，總結(jié)下，人類智能的發(fā)展大致是二十萬年前硬件ready（大腦的基因），2萬年前軟件ready（復(fù)雜語言的行成），5千年前開始大數(shù)據(jù)驅(qū)動（文字的形成）。

 

 

　　我們再來看看人工智能在最近的飛躍發(fā)展，人工智能到了哪一步？

 

　　隨著學(xué)術(shù)界深度神經(jīng)網(wǎng)絡(luò)在圖像和聲音的效果體現(xiàn)以及2016年李世石與阿爾法狗世紀之戰(zhàn)，我們基本可以說，這是硬件和軟件都ready 了。特別是圍棋的突破，它的意義有兩個：第一，它和圖像與聲音這兩個學(xué)術(shù)界重重研究不同， 這基本是個新功能，它的成功表明了人工智能的普適性。第二，圍棋是業(yè)界公認無法靠硬件突破的，所以它的成功可以標桿是軟件的ready。（因為在人工智能成功之前，我們不知道到底是硬件限制還是軟件限制）

 

　　為什么這兩點這么重要？因為半導(dǎo)體有一個摩爾定律：每18個月性能增倍。這個翻譯過來，就是每5年性能提高10倍。

 

　　在深度學(xué)習之前，電腦圍棋的段位大致在業(yè)余四段，行業(yè)內(nèi)（圍棋界和計算機界）認為要達到世界冠軍水準大約需要20年。但是深度學(xué)習引入之后，2016年就戰(zhàn)勝了李世石，軟件提前了二十年的硬件發(fā)展。也就是說，這深度學(xué)習讓硬件可能提高了差不多一萬倍的效率。

 

　　然后在一年之后，新版的阿爾法狗就基本能讓柯潔三子了。（澄清：阿爾法狗和柯潔從未下過讓子棋，但是新版阿爾法狗可以讓舊版三子，柯潔私下說過讓兩子自己會輸，而且柯潔和阿爾法之戰(zhàn)完全無勝機，這是差三子水準的表現(xiàn)）。當然，這次飛躍的原因是阿爾法狗幾千萬局自我對局后的結(jié)果，也就是大數(shù)據(jù)驅(qū)動的智能上升。

 

　　所以在圍棋這個單一智能的表現(xiàn)上，人工智能從硬、件軟件和大數(shù)據(jù)全面體現(xiàn)了其超越性。這其中，軟件和大數(shù)據(jù)的威力更是超出預(yù)期。深度學(xué)習軟件使得圍棋能力提高了萬倍的效率，那么大數(shù)據(jù)提高了多少呢？圍棋在阿爾法狗之前的十年大約從業(yè)余初段升到業(yè)余四段，這是個相差兩子強三子弱的水平差。在一年之后的新版阿爾法狗能讓一年前版本三子，也就是說大數(shù)據(jù)一年的提高相當于硬件10年100倍的硬件提升。

 

　　在人類圍棋的歷史上，導(dǎo)致圍棋智能上升三子大概有兩次：一次是日本道策采用手割的原理，對圍棋子力的量化分析；一次是吳清源和木谷實提出的新布局理論，從全局地與勢的棋子配合進行局面分析。這兩次本身可能只有兩子的提高，但是之后眾人的完善則能造成3子的進步。從圍棋產(chǎn)生到道策大約是2000年的對局積累，從道策到新布局是近三百多年的對局積累，而阿爾法狗只花了一年。道策之前大約有幾千局對局棋譜，認真分析了大約幾百局；新布局之前大約有十幾萬的對局棋譜，認真分析了的大約幾千局；阿爾法狗通過數(shù)千萬的對局，認真分析多少不知。這似乎也表明智能的提升一個等級，數(shù)據(jù)至少要一百倍以上的差異啊。

 

　　三子在圍棋界中有個梗：圍棋之神能讓我三子。意思是任何一個時代最強大的棋手，在被問到與圍棋之神的差距時，都會回答大概三子吧。所以，當谷歌告訴中國棋院和柯潔新版阿爾法狗能讓舊版三子時，柯潔被嚇呆了。可惜，當神來時，中國棋院的選擇是分先下，稱之謂捍衛(wèi)人類尊嚴。這樣被碾壓，不知道是怎么捍衛(wèi)了人類尊嚴。如果真進行了讓兩子和讓三子的比賽，或許真能逼出阿爾法狗的最強手段，讓我們能一窺神的境界吧。阿爾法狗在更多對局下還能再長三子的棋力嗎？因為阿爾法狗不再繼續(xù)研究圍棋，我們無法知道了。從大數(shù)據(jù)上說，估計阿爾法狗至少還需要再100倍以上數(shù)十億次對局的棋譜，才有可能。這個成本在目前太大了，估計沒有什么意義。

 

　　在金融、自動駕駛、圖像識別、圍棋、語音識別、語言翻譯、疾病診斷等各個智能領(lǐng)域，現(xiàn)在人工智能基本都到了這樣的地步：比大多數(shù)普通人強，接近專家水準，比頂尖專家差。這可能是因為這些領(lǐng)域中的大數(shù)據(jù)不可能像圍棋這么容易快速獲得、游戲勝負規(guī)則不是圍棋這樣能簡單易判斷造成的。但是，假設(shè)有更強大的硬件，更簡明規(guī)則/更優(yōu)化的軟件，更長時間積累的大數(shù)據(jù)，理論上，人工智能的進化是無限的。

 

　　在現(xiàn)在這個點，約束人工智能大規(guī)模布置的原因是什么？其實已經(jīng)基本不是硬件而是成本了。要建一套頂尖的人工智能，目前至少需要投資硬件、軟件、人員等1-10億美元以上。所以最開始被廣泛布置人工智能的金融、搜索結(jié)果優(yōu)化、自動駕駛等，都是能帶來巨大市場回報的。不過摩爾定律：每10年芯片降低100倍的價格，可以想象下10年20年后人工智能的領(lǐng)域?qū)U展到百倍萬倍更小得多的市場領(lǐng)域，應(yīng)用場景無限廣泛。

 

　　更強大硬件、更優(yōu)化軟件以及更直接大量的數(shù)據(jù)，人工智能在每個方面的進步速度都遠遠地超過我們。就像所有人類發(fā)明的機器一樣，任何一個功能一旦被超越，人類再沒有機會反超回去了。

 

 

　　假設(shè)說，人工智能只是能替代更多的工作，我們對其是不需要恐懼的。AI代替人類工作這種擔憂，就和自動化代替人類工作一樣，會被人類社會通過各種手段逐漸化解?，F(xiàn)代科技的機械化和自動化大大地提高人類生活品質(zhì)，從而導(dǎo)致人類社會文化的大繁榮，人類在現(xiàn)代社會中音樂文學(xué)藝術(shù)影視等非生產(chǎn)性的從業(yè)人數(shù)比例是一直上升的。即使少部分人會受到影響，人類社會整體在人工智能發(fā)展中是會收益巨大的。

 

　　對于人工智能把人類變成奴隸的擔憂，也基本不可能出現(xiàn)。因為無論是做為動力的蒸汽機還是做為智能的人工智能，都有著一樣的弱點：功能極強大但轉(zhuǎn)化效率極低。單位能耗下的智能不僅與人類相差遙遠，而且估計可能永遠無法超越人類。人工智能和所有機器一樣存在著能源獲得的約束、易被破壞、功能單一等不可克服的缺點。而且人類做為一個整體，智能是非常睿智的，對于邪惡的人工智能這種可能，相信人類是能夠找到預(yù)防和隔離的辦法的。

 

　　其實人工智能真正的危險應(yīng)該來自：邪惡個人控制的人工智能。當20年后，要開發(fā)一套新功能的人工智能只需要幾萬美元，各種調(diào)試軟件的辦法更加成熟，數(shù)據(jù)無比豐富。一個瘋狂科學(xué)家（mad scientist）是很可能通過人工智能對社會帶來強大的破壞性。這本來就是現(xiàn)代科技與現(xiàn)代社會的弱點：毀滅與建設(shè)的成本對比是不斷下降的。比如911 恐怖襲擊后，為了防止下一個911，投入的成本與恐怖分子投入的成本比例估計是上萬倍了。

 

　　假設(shè)瘋狂者把人工智能應(yīng)用在設(shè)計傳染性更強死亡率更高的病毒、尋求人群密度更高的恐怖襲擊、能自己行走自己尋找目標的人工智能自殺炸彈、更挑動人群情緒的釣魚謠言、能更有效洗人頭腦的廣告宣傳、散布偏見與仇恨的思想、研發(fā)制造原子核武器等等。這種邪惡個人控制下的人工智能，才是各個政府與社會最頭痛的，我們?nèi)绾畏乐棺羁膳碌暮蠊?，才是人類社會最大的風險。

 

　　人工智能不能毀滅人類，但是人可能毀滅人類。正是對此后果的畏懼，才使得馬斯克投入大量資金去研發(fā)航天火箭。防止某些人毀滅人類，或許隔離才是最有效的措施，人類現(xiàn)在能看到的最嚴密的隔離大概就是星球間的間距吧。（如果是人工智能毀滅了人類，星球間的間距根本無法阻止人工智能的進擊）

 

　　這是馬斯克的遠見還是他的杞人憂天，我們大多數(shù)人有生之年就可能看到結(jié)果的。