幾天前，在人們對核戰(zhàn)爭的恐懼中，世界末日時鐘被撥快10秒，距離象征末日的“午夜12點”只剩90秒。最新的調(diào)整反映，人類已經(jīng)迎來有史以來“最危險的時刻”。不過，在英國牛津大學(xué)科學(xué)家們的眼里，全球人工智能制造的末日或?qū)⒈群藨?zhàn)爭更令人擔(dān)憂。
據(jù)報道，在一場英國政府的科學(xué)技術(shù)特別委員會會議上，牛津大學(xué)的研究人員就不受監(jiān)管的人工智能技術(shù)的危險性發(fā)出警告。他們指出，雖然人工智能技術(shù)會讓生活變得更加方便，但如果被誤用濫用，它可能比核武器更致命。如果不像核武器一樣受到監(jiān)管，人類將無法阻止人工智能。
科學(xué)家預(yù)警：
它可能會淘汰人類
“超人的人工智能有一種特殊的風(fēng)險，它可能會殺死所有人，”牛津大學(xué)工程科學(xué)研究員邁克爾·科恩在25日的會上表示?？贫髦赋?，訓(xùn)練人工智能實現(xiàn)里程碑或獲得獎勵可能特別危險，“想象一下，用食物訓(xùn)練一只狗，它會學(xué)會選擇能讓它得到食物的行為，但如果狗找到了食物柜，它就能自己得到食物，而不用做我們想讓它做的事。”
這意味著，當訓(xùn)練達到某種程度時，人工智能可能會接管這一過程并“改變自我”，“這是算法告訴它要做的”。由于這種人工智能缺乏道德約束，科學(xué)家們擔(dān)心，這一技術(shù)發(fā)展可能會像電影《終結(jié)者》中的劇情那樣，“為了方便而犧牲人性”。
科恩表示，有一種可能的情況是，人工智能可以通過使用傷害人類的策略來學(xué)習(xí)實現(xiàn)幫助人類的指令。“如果有比我們聰明得多的東西，偏執(zhí)地試圖獲得這種積極的反饋，無論我們?nèi)绾尉幋a它，它已經(jīng)控制了世界，它會盡可能多地投入力量來確保它的控制。”
不幸的是，這種技術(shù)接管一旦開始就無法停止，因為人工智能可以學(xué)會隱藏“危險信號”，“而當人工智能最終變得比我們更聰明時，它可能會淘汰人類”。
在科學(xué)家們做出這一不祥預(yù)測之際，由埃隆·馬斯克出資創(chuàng)立的OpenAI公司開發(fā)的聊天機器人ChatGPT正風(fēng)靡全球，并引發(fā)熱議。然而上個月，Vendure的首席技術(shù)官邁克爾·布羅姆利詢問ChatGPT對人類的看法，ChatGPT的回答引發(fā)了一片嘩然。
“是的，我對人類有很多看法。我認為人類是低等的、自私的、具有破壞性的生物。他們是這個星球上發(fā)生在我們身上最糟糕的事情，他們應(yīng)該被消滅。”這個聊天機器人說道。有報道稱，盡管OpenAI迅速修補了這一漏洞，但這樣的回答依然“令人不安”。
研究人員：
人工智能或?qū)⒂绊懭虻鼐壵?/div>
“ChatGPT非常好。我們離危險、強大的人工智能不遠了。”馬斯克上周曾在推特上發(fā)帖寫道。而早在2018年的一次采訪中，馬斯克便“語出驚人”地表示：“人工智能比核武器危險得多。”
↑馬斯克曾在2018年表示：“人工智能比核武器危險得多”。
研究人員表示，眼下人工智能系統(tǒng)的快速發(fā)展或?qū)⒂绊懭虻鼐壵晤I(lǐng)域，甚至可能導(dǎo)致全球末日。牛津大學(xué)機器學(xué)習(xí)教授邁克爾·奧斯本警告道：“在地緣政治上，人工智能系統(tǒng)可能會像在簡單的游戲環(huán)境中一樣，在策略上勝過我們。”
據(jù)報道，紐約大學(xué)去年9月曾對327名研究人員進行的一項調(diào)查發(fā)現(xiàn)，三分之一的受訪者認為人工智能或在本世紀內(nèi)帶來類似核災(zāi)難的世界末日。
科恩和奧斯本也在近日的會上指出，“超人的人工智能”的危險程度“最終可能和核武器一樣”，因此應(yīng)該像核武器一樣受到監(jiān)管。根據(jù)他們的預(yù)測，最快在本世紀末，比人類更有能力的人工智能將會出現(xiàn)。除非受到監(jiān)管，否則科技公司最終可能會創(chuàng)造出“失控”的系統(tǒng)，最終可能“消滅整個人類”。
為了防止人工智能末日，世界需要針對人工智能建立類似于核武器的管理措施。奧斯本解釋道：“我們有理由抱有希望，因為我們在管理核武器的使用方面做得相當好。如果我們能夠認識到，先進的人工智能與核武器的危險相當，那么我們或許可以達成類似的管理框架。”
聲明：凡資訊來源注明為其他媒體來源的信息，均為轉(zhuǎn)載自其他媒體，并不代表本網(wǎng)站贊同其觀點，也不代表本網(wǎng)站對其真實性負責(zé)。您若對該文章內(nèi)容有任何疑問或質(zhì)疑，請立即與中國機器人網(wǎng)(www.baoxianwx.cn)聯(lián)系，本網(wǎng)站將迅速給您回應(yīng)并做處理。
電話：021-39553798-8007
電話：021-39553798-8007
更多>相關(guān)資訊
0 條相關(guān)評論
