[摘要]從霍金到馬斯克，這些擁有超高智商的人都對(duì)人工智能充滿了敬畏之心，甚至有些恐懼。但是谷歌似乎對(duì)這些擁有超高智商的機(jī)器人并不害怕，并且已經(jīng)找到了它們的缺點(diǎn)。
最近谷歌的研究人員發(fā)表了一篇名為“人工智能安全問題具體分析”的報(bào)告，讓我們看到了機(jī)器人們?cè)谶m應(yīng)性、協(xié)調(diào)性上出現(xiàn)的問題。并且表示比如清潔機(jī)器人應(yīng)該擁有更好的避害性能，而不應(yīng)該用一個(gè)潮濕的拖把來擦拭有插座的地面。
機(jī)器人需要通過智能算法來學(xué)習(xí)，并且不斷更新和向前探索，而與軟件不同的是，不斷嘗試新事物的機(jī)器人甚至有可能成為一名殺人犯。因此谷歌的研究人員想出了下面的這五個(gè)問題：
避免負(fù)面影響：我們?nèi)绾尾拍艽_保一個(gè)AI系統(tǒng)不會(huì)為了達(dá)到目的而對(duì)環(huán)境造成負(fù)面影響，比如清潔機(jī)器人為了更快的完成清潔任務(wù)而撞倒一個(gè)花瓶；
避免被黑客控制：我們都希望機(jī)器人不要被目的不純的黑客控制，比如清潔機(jī)器人不管任何材質(zhì)而一味的清理，造成對(duì)環(huán)境的破壞；
彈性監(jiān)督：我們?nèi)绾尾拍苡行У拇_保在各個(gè)方面對(duì)AI系統(tǒng)進(jìn)行客觀的評(píng)估？比如當(dāng)人們要求機(jī)器人總是反復(fù)執(zhí)行同一項(xiàng)任務(wù)，機(jī)器人是否會(huì)感到厭倦？
安全的探索：如何確保一個(gè)AI系統(tǒng)在探索的同時(shí)不會(huì)帶來消極的影響。比如清潔機(jī)器人應(yīng)該知道避害，而不應(yīng)該用一個(gè)潮濕的拖把來擦拭有插座的地面。
適應(yīng)性：我們?nèi)绾未_保一個(gè)AI系統(tǒng)擁有更高效的識(shí)別能力，在非常規(guī)的環(huán)境下也能擁有適應(yīng)能力？
研究者擔(dān)心的并非是機(jī)器人引發(fā)的革命，而是由于草率的設(shè)計(jì)而帶來的現(xiàn)實(shí)問題。過多的事故容易讓人們喪失對(duì)合理自動(dòng)化系統(tǒng)的信任感。不過提到事故，我們不妨來輕松一下，看看那些機(jī)器人的一些萌摔搞笑視頻。
