關(guān)鍵是：Facebook創(chuàng)建了兩個(gè)人工智能聊天程序，可以相互交談（并互相學(xué)習(xí)），最終他們停止了用英語交流，并開始用一種非英語的語言進(jìn)行交流，這些語言是它們自己“發(fā)明的”。
新聞?lì)^版紛紛報(bào)道了這一事件，從奪人眼球的噱頭到抽絲剝繭的分析，如每日電訊報(bào)的“聊天機(jī)器人發(fā)明新語言進(jìn)行溝通Facebook被迫選擇關(guān)閉”，讓人聽起來像是這些聊天機(jī)器人正在密謀反抗人類，或是對(duì)人類構(gòu)成威脅。隨便看看這些新聞底下的評(píng)論，你就會(huì)發(fā)現(xiàn)大家的反應(yīng)有恐懼、興奮甚至高興，有人說道“這一天終于來了”或引用其他艾薩克·阿西莫夫小說中的語句。
但正如Facebook人工智能部的艾特魯夫巴特拉周一指出的那樣，幾十年來，人工智能一直在“發(fā)明”新的溝通方式，所以這其實(shí)算不上新聞。此外，他還解釋說，與新聞標(biāo)題相反的是，這個(gè)實(shí)驗(yàn)并沒有被關(guān)閉，只是為了調(diào)整語言交流而改變了。
此外，公司也沒有試圖隱瞞實(shí)驗(yàn)細(xì)節(jié)。所有的一切都是公開的，所有的細(xì)節(jié)都可以在GitHub上查到，允許其他程序員復(fù)制這個(gè)場(chǎng)景。
底線是：在人工智能方面，新的人工智能語言不該是我們擔(dān)心的問題。
下面才是我們應(yīng)該擔(dān)心的事情
像埃隆·馬斯克和比爾·蓋茨這樣的有技術(shù)頭腦的人已經(jīng)貢獻(xiàn)了大量的時(shí)間和金錢，來解釋人工智能是一種威脅，并尋找新的方法提高其道德水平。
這些才是我們應(yīng)該關(guān)注的主要領(lǐng)域：
武器：
武器軍用無人機(jī)已經(jīng)投入使用，自動(dòng)化武器被認(rèn)為是第三次戰(zhàn)爭(zhēng)革命。自動(dòng)化的智能武器讓更少的士兵受到傷害，而且遠(yuǎn)比戰(zhàn)斗機(jī)或核材料等先進(jìn)技術(shù)便宜。例如，當(dāng)前的“收割者”無人機(jī)價(jià)格約為1300萬美元，而一架戰(zhàn)斗機(jī)的價(jià)格為1億美元。在未來，它們將變得更加廉價(jià)，而且不受監(jiān)管（也意味著極其強(qiáng)大）的移動(dòng)武器也將更加便宜，任何人都可以通過編程來殺死和摧毀對(duì)方（除非我們主動(dòng)采取安全措施）。
控制：
控制也許最重要的不是人工智能本身，而是誰在控制它。我們正在應(yīng)對(duì)的是那些有能力重塑世界的力量，如果它們被貪婪的公司、渴求能源的國(guó)家、甚至是善意的個(gè)人所壟斷，這些人根本不知道自己在做什么，那么這項(xiàng)技術(shù)很容易被濫用或誤用。這就是為什么硅谷的一些影響者和人工智能研究人員聚集在一起，成立OpenAI，這是一項(xiàng)讓全世界都能使用人工智能的倡議，而不僅僅是一群特別的人。這一舉措并不“便宜”，據(jù)報(bào)道，該項(xiàng)目一位頂尖的人工智能研究人員的報(bào)價(jià)是其市場(chǎng)價(jià)值的兩到三倍。
發(fā)展：
人工智能的另一個(gè)問題是在不受參數(shù)控制的情況下，人工智能的發(fā)展速度。通用人工智能（AGI）具有指數(shù)級(jí)的成長(zhǎng)能力，因?yàn)樗鼘?huì)自我提升，并且在某一時(shí)刻會(huì)超過其創(chuàng)造者的智力。農(nóng)業(yè)時(shí)代延續(xù)了幾千年，工業(yè)時(shí)代延續(xù)了數(shù)百年，信息時(shí)代持續(xù)了幾十年，如今人工智能時(shí)代僅開始數(shù)年；技術(shù)的增長(zhǎng)持續(xù)加速而不是直線發(fā)展，而現(xiàn)在，任何進(jìn)一步的加速都會(huì)讓我們毫無準(zhǔn)備地應(yīng)對(duì)后果（如果我們采取被動(dòng)的態(tài)度，而不是積極的姿態(tài)）。我們還沒能創(chuàng)造出超級(jí)智能，但我們已經(jīng)掌握了處理能力——中國(guó)的天河2號(hào)每秒能計(jì)算34千萬億次計(jì)算（cps），遠(yuǎn)超人類大腦（10千萬億秒）。
如果我們想要負(fù)責(zé)任地運(yùn)用這種計(jì)算能力，我們需要有一個(gè)基礎(chǔ)來應(yīng)對(duì)它無限制的發(fā)展。這意味著要理解人工智能發(fā)展的倫理道德，如何限制它的使用，以及在出現(xiàn)問題時(shí)采用適當(dāng)?shù)姆雷o(hù)措施。
關(guān)于人工智能如何被使用以及未來如何發(fā)展，目前存在一些嚴(yán)重的擔(dān)憂。然而，過度地將被測(cè)試的系統(tǒng)個(gè)人化，或者被標(biāo)題誤導(dǎo)我們的觀點(diǎn)是不負(fù)責(zé)任的。聊天機(jī)器人發(fā)明一種新語言并不是威脅，它是順其自然的，還有其他更重要的事值得我們的注意。
