這里所謂的“黑箱”特性的 AI 技術(shù)及算法系統(tǒng)主要是指深入學(xué)習(xí)系統(tǒng)（Deep Learning），這是一個(gè)在Google、Facebook、Microsoft和Amazon等科技巨頭之間流行的AI研究的子領(lǐng)域，它通過(guò)匯集數(shù)百萬(wàn)次的微小的計(jì)算來(lái)做出單一決策，例如在圖像中識(shí)別一張人臉。

 

　　盡管人們對(duì)快速發(fā)展的人工智能抱有很大的預(yù)期，但是報(bào)告也指出了這一領(lǐng)域正面臨巨大的挑戰(zhàn)。正如我們的大腦的信號(hào)太過(guò)復(fù)雜，難以解釋一樣，深度學(xué)習(xí)算法的機(jī)制也是如此。而若是將這種尚不能完全解釋的決策機(jī)制引入公共管理領(lǐng)域，則會(huì)帶來(lái)大量的潛在風(fēng)險(xiǎn)。

 

　　例如在刑事司法中，非盈利媒體 ProPublica 的調(diào)查小組發(fā)現(xiàn)，法庭和執(zhí)法部門用于預(yù)測(cè)刑事被告再犯的算法，可能對(duì)非裔美國(guó)人存在一定的偏見(jiàn)。這一現(xiàn)象隨后被許多學(xué)者證實(shí)。在醫(yī)療保健領(lǐng)域，匹茲堡大學(xué)醫(yī)學(xué)中心的研究發(fā)現(xiàn)，一種用于治療肺炎患者的 AI 系統(tǒng)，缺失了一項(xiàng)對(duì)嚴(yán)重并發(fā)癥的風(fēng)險(xiǎn)評(píng)估。在教育領(lǐng)域，美國(guó)得克薩斯州的評(píng)教算法系統(tǒng)被暴露出存在嚴(yán)重的缺陷，教師們也在與該系統(tǒng)對(duì)抗的訴訟中成功勝出--法官認(rèn)定這些無(wú)法被解釋的算法系統(tǒng)侵犯了美國(guó)憲法第十四修正案賦予美國(guó)公民程序正義的權(quán)力。

 

　　或許這些例子僅僅是一個(gè)開(kāi)始，未來(lái)人類在人工智能實(shí)際應(yīng)用領(lǐng)域還將面臨更大的，來(lái)自法律、道德、制度等方面挑戰(zhàn)。究其原因，皆因在目前的人工智能領(lǐng)域內(nèi)，尚缺少標(biāo)準(zhǔn)化的測(cè)試模式和審核方法，AI決策也無(wú)法完全避免算法偏差，保障絕對(duì)的安全。在報(bào)告中，AI NOW就詳細(xì)介紹了人工智能決策如何受到偏斜數(shù)據(jù)和設(shè)計(jì)架構(gòu)的影響--而這些偏差最終都會(huì)被解釋為人工智能算法的不可估量性而被忽略或掩蓋。

 

　　AI NOW在報(bào)告中指出：“公共機(jī)構(gòu)使用這些系統(tǒng)會(huì)引起人們對(duì)于這類法律程序是否正當(dāng)、合規(guī)的擔(dān)憂。這些系統(tǒng)至少要經(jīng)歷公共審計(jì)、測(cè)試及審查的過(guò)程，并符合相應(yīng)的問(wèn)責(zé)標(biāo)準(zhǔn)。”

 

　　而針對(duì)那些大力推崇人工智能算法的科技巨頭也存在著同樣的擔(dān)憂。谷歌和Facebook，都在使用人工智能算法來(lái)決定用戶在他們的網(wǎng)頁(yè)上看到何種內(nèi)容，鑒于這些網(wǎng)站龐大的訪問(wèn)量和用戶基數(shù)，這使得它們也免不了的卷入了有關(guān)信息誤導(dǎo)和媒介洗腦的社會(huì)論戰(zhàn)。