如果它控制你的汽車，你的飛機(jī)，你的心臟起搏器，你的自動(dòng)交易，人工智能系統(tǒng)做你想要它做的事情變得更加重要系統(tǒng)或您的電網(wǎng)，另一個(gè)短期挑戰(zhàn)是防止在致命的自主武器中進(jìn)行毀滅性的軍備競(jìng)賽。

與目標(biāo)保持一致

從長(zhǎng)遠(yuǎn)來(lái)看，一個(gè)重要的問(wèn)題就是，如果追求強(qiáng)大的AI成功并且AI系統(tǒng)在所有認(rèn)知任務(wù)中變得比人類更好，會(huì)發(fā)生什么，設(shè)計(jì)更智能的AI系統(tǒng)本身就是一項(xiàng)認(rèn)知任務(wù)，這樣的系統(tǒng)可能會(huì)經(jīng)歷遞歸的自我改善，引發(fā)智能爆炸，使人類的智力遠(yuǎn)遠(yuǎn)落后，通過(guò)發(fā)明革命性的新技術(shù)，這種超級(jí)智能可以幫助我們 消除戰(zhàn)爭(zhēng)，疾病和貧困，因此創(chuàng)建強(qiáng)大的人工智能可能是人類歷史上最大的事件，除非我們?cè)诔蔀槌?jí)智能之前學(xué)會(huì)將人工智能的目標(biāo)與我們的目標(biāo)保持一致。

并無(wú)本質(zhì)差異

每當(dāng)談到人工智能這個(gè)問(wèn)題，答案就分兩個(gè)極端，要么同質(zhì)、無(wú)趣、世俗，要么天馬行空，外行高呼震撼，內(nèi)行斥其沒(méi)有常識(shí)，無(wú)人能預(yù)知命運(yùn)會(huì)陷入如此險(xiǎn)境，短短幾年，AI市場(chǎng)的低氣壓不知何時(shí)開(kāi)始盤(pán)旋成型，商業(yè)化變現(xiàn)困境剝落了AI的優(yōu)越，讓AI企業(yè)直面最粗糙的生死，一直都有“AI做不了顛覆式創(chuàng)新，還是要走產(chǎn)業(yè)+AI的路”這句話雖是業(yè)內(nèi)共識(shí)，但走這路的方法論其實(shí)是過(guò)時(shí)的，畢竟，這與十幾年前的信息化和IT軟件商業(yè)路徑，并無(wú)本質(zhì)差異。

利潤(rùn)也非?？捎^

在全球權(quán)威的人臉識(shí)別算法測(cè)試中，XX企業(yè)獲得XX賽道冠軍，XX在國(guó)際權(quán)威機(jī)構(gòu)ACM MM主辦的大賽中，行為識(shí)別再奪一冠，識(shí)別率提升、精度突破、榜單排行，是早期AI界的主旋律，這段時(shí)期，中國(guó)的AI公司上演一場(chǎng)瘋狂的刷榜競(jìng)賽，讓算法識(shí)別儼然間成了一項(xiàng)競(jìng)技體育，在早期AI公司的藍(lán)圖里，他們只需研發(fā)出標(biāo)準(zhǔn)化的模塊，然后被集成在所有公司的各個(gè)解決方案里，如此，哪怕一個(gè)開(kāi)發(fā)包（SDK）只賣幾萬(wàn)、幾十萬(wàn)，薄利多銷，一年的利潤(rùn)也非?？捎^。

而且作為被集成的軟件，所得幾乎均為凈利潤(rùn)，說(shuō)躺平賺錢也不為過(guò)，這一意識(shí)形成后，很多公司將比拼算法精度作為頭等大事，甚至一度認(rèn)為，不需要招銷售，客戶自然會(huì)聞?dòng)嵃駟味鴣?lái)。