在人工智能各種被“抱大腿”今天，它在獲得不斷突破和發(fā)展的同時也面臨著新的問題和挑戰(zhàn)。人工智能算法的逐漸深入使人們越來越難以理解它們的內(nèi)部工作原理，部分原因在于開發(fā)公司不允許對其專有算法進行審查，隨著它的復(fù)雜性越來越高，人工智能變得越來越不透明。
目前，人工智能逐漸滲透到我們的生活當(dāng)中，在很多領(lǐng)域，人工智能表現(xiàn)得要比人類“優(yōu)秀”很多。以自動駕駛汽車為例，它依賴于機器學(xué)習(xí)算法，能夠做到減少90%的道路交通事故；人工智能診斷平臺比人類更容易發(fā)現(xiàn)危險疾病的早期征兆，并有助于挽救生命；在預(yù)測維修方面，人工智能可以檢測出機械設(shè)備的磨損跡象，達(dá)到預(yù)防災(zāi)難并且降低成本的效果，這些是人類目前所不能做到的。
然而，人工智能并不是完美無缺的，它也會有“犯錯誤”的時候，還記得嗎，微軟的人工智能聊天機器人Tay在其發(fā)布的一天內(nèi)就開始發(fā)表種族主義言論；谷歌的人臉識別技術(shù)開始的時候?qū)?a href="http://www.baoxianwx.cn/photo/" target="_blank">圖片進行的一些冒犯性的標(biāo)記等等。
即使這些錯誤并不是十分重要，時間久了甚至?xí)缓雎?。然而，神?jīng)網(wǎng)絡(luò)、機器學(xué)習(xí)算法以及人工智能的其他方向正逐漸進入更為關(guān)鍵的領(lǐng)域，例如，醫(yī)療、交通和法律等等。而這些領(lǐng)域的錯誤，則可能會產(chǎn)生致命的后果。
人類也會犯錯誤，甚至是致命的錯誤。但二者的區(qū)別在于，我們可以解釋行動背后的原因并且承擔(dān)責(zé)任。在人工智能時代之前我們所使用的軟件都是一些基于代碼和規(guī)則的邏輯，針對其中的錯誤進行檢查和推理，可以明確到相應(yīng)的責(zé)任。
在許多人工智能的應(yīng)用程序中，神經(jīng)網(wǎng)絡(luò)是一個“黑盒子”。通常，只有工程師可以解釋他們的算法究竟是怎樣運行的。例如，去年谷歌的“打游戲”的人工智能讓世界震驚了，因為他們想出了一些專業(yè)人士都想不到的動作。
Nuance公司研究部高級總監(jiān)Nils Lenke表示“我們并不總能清楚地認(rèn)識到神經(jīng)網(wǎng)絡(luò)里面會發(fā)生什么，因為有的時候網(wǎng)絡(luò)組織本身并不想告訴你它是如何做到的。”
如果這些算法能夠完全控制決策，可能會導(dǎo)致大量的問題。例如，一輛自動駕駛汽車引發(fā)了一場致命事故，誰將負(fù)責(zé)？我們不能要求任何一名乘客對無法控制的事情負(fù)責(zé)任，況且連制造商也很難解釋這個涉及如此多的變數(shù)的復(fù)雜性事件，更別指望汽車本身會解釋它的行為。
同樣的道理也適用于人工智能的其他應(yīng)用程序，它可以自動控制病人的治療過程，或者對某種風(fēng)險進行評估，甚至它可以決定罪犯是否會被關(guān)進監(jiān)獄。那么，我們能否相信人工智能可以做出決定呢？對于一些非關(guān)鍵任務(wù)，如廣告、游戲等，我們可以容忍它所犯的錯誤，但是，那些對于社會、法律、經(jīng)濟和政治的影響，甚至是一些涉及到人類生命的災(zāi)難性的事件，使我們還沒有準(zhǔn)備好放棄對機器人的控制。
就目前而言，人工智能將逐漸顯示出它的全部潛力，我們已經(jīng)看到了醫(yī)學(xué)和網(wǎng)絡(luò)安全等領(lǐng)域的進展，由AI負(fù)責(zé)數(shù)據(jù)導(dǎo)向的研究和分析，并向人類專家提供寶貴的見解和建議。隨后，再由專家們做出決定，并對可能產(chǎn)生的后果承擔(dān)責(zé)任。
與此同時，企業(yè)和組織必須采取更多措施，使人工智能變得更加透明化和可理解化。Open AI就是一個例子， 它是由特斯拉的Elon Musk和YCombinator的Sam Altman聯(lián)合創(chuàng)辦的一個非營利性研究公司，正如它的名字所暗示的那樣，Open AI的目標(biāo)是向所有人開放人工智能研究和開發(fā)，而不局限于金融利益。
與人工智能開展合作的其他領(lǐng)域，旨在提高人們對人工智能的認(rèn)識，并應(yīng)對一些所謂的AI挑戰(zhàn)。由微軟、IBM和谷歌等科技巨頭創(chuàng)建的合作伙伴關(guān)系，也將致力于人工智能的理論和實踐的發(fā)展。
或許，未來的人工智能能夠?qū)崿F(xiàn)和人腦一樣，在那時我們的汽車和機器人將能夠出庭受審并接受審判，而我們?nèi)祟惪梢匀プ鲆恍┡c現(xiàn)在完全不同的事情。
那只是我們對于未來的想象，在當(dāng)今這個以人為主導(dǎo)的世界里，要做出關(guān)鍵的決定，要么必須是完美的，要么是負(fù)責(zé)任的。就目前而言，人工智能并沒有做到這一點。
