包括霍金在內(nèi)的許多科學(xué)家認(rèn)為AI機(jī)器人獲得意識(shí)僅僅是時(shí)間問(wèn)題，這些機(jī)器人將勝任人類的一切工作，然而這也將帶來(lái)法律和道德上的挑戰(zhàn)。據(jù)英國(guó)《每日郵報(bào)》12月12日?qǐng)?bào)道，在“The Conversation”網(wǎng)站的一篇文章中，美國(guó)俄克拉荷馬州立大學(xué)教授蘇巴什·卡闡述了機(jī)器人獲得意識(shí)可能造成的后果。
蘇巴什·卡稱，人工智能在未來(lái)將有突破性的進(jìn)展： 機(jī)器能夠感知自身和周圍環(huán)境，并且實(shí)時(shí)吸收和處理大量數(shù)據(jù)。它可以進(jìn)入太空、投入戰(zhàn)斗，完成危險(xiǎn)的任務(wù)，還可以做飯、打掃、洗衣服——甚至能在人孤獨(dú)的時(shí)候給予陪伴。一套特別先進(jìn)的機(jī)器能夠代替人類完成所有工作，將人類從枯燥的工作中解放出來(lái)。但蘇巴什？卡也指出，這樣的機(jī)器會(huì)動(dòng)搖社會(huì)基礎(chǔ)，帶來(lái)麻煩的法律和倫理問(wèn)題。更可怕的是，它們可能會(huì)反抗、并希望徹底消滅人類。他在文章中寫道，研究人員在這些超感知機(jī)器是否存在的問(wèn)題上存在分歧。在機(jī)器是否可以或者應(yīng)該被稱為“有意識(shí)”的問(wèn)題上，學(xué)界也意見不一。
報(bào)道中還提到了“機(jī)器人殺手”和自動(dòng)化武器的運(yùn)用。2016年人權(quán)觀察組織的報(bào)告顯示，由于機(jī)器人無(wú)需為戰(zhàn)爭(zhēng)負(fù)責(zé)，因此需要禁止“機(jī)器人殺手”使用和發(fā)展。去年，超過(guò)1000名科技以及機(jī)器人專家警告，機(jī)器人武器可能只需數(shù)年的發(fā)展，而不是幾十年。在一封公開信中，他們稱，如果主要的軍事力量推動(dòng)自動(dòng)化武器的發(fā)展，那么‘’全球軍備競(jìng)賽將無(wú)可避免“”。
