“真正的安全問(wèn)題，如果非要這么叫的話，是如果我們向這些系統(tǒng)提供了有偏見(jiàn)的數(shù)據(jù)，這些系統(tǒng)也會(huì)變得帶有偏見(jiàn)。” Giannandrea 在谷歌最近一次有關(guān)人類和 AI 系統(tǒng)關(guān)系的會(huì)議上如此說(shuō)到。

 

　　隨著科技不斷向醫(yī)藥和法律等關(guān)鍵領(lǐng)域延伸，以及更多沒(méi)有深厚技術(shù)背景的人可以應(yīng)用最新科技，機(jī)器學(xué)習(xí)的偏見(jiàn)問(wèn)題會(huì)變得更加顯著。一些專家警告稱，算法的偏見(jiàn)問(wèn)題已經(jīng)在很多行業(yè)十分普遍，卻幾乎沒(méi)人試圖進(jìn)行識(shí)別或者糾正。

 

　　“公開(kāi)我們?cè)谟玫挠?xùn)練數(shù)據(jù)，公開(kāi)我們正在尋找數(shù)據(jù)背后的偏見(jiàn)信息，這是很重要的，否則我們就是在建造有偏見(jiàn)的系統(tǒng)，” Giannandrea 補(bǔ)充到，“如果有人試圖賣給你一個(gè)輔助醫(yī)療決策的黑盒系統(tǒng)，而你卻不知道它如何運(yùn)作或者用了什么數(shù)據(jù)進(jìn)行訓(xùn)練，那我肯定不會(huì)信任這個(gè)黑盒的。”

 

　　黑盒機(jī)器學(xué)習(xí)模型已經(jīng)在決定一些人的命運(yùn)上發(fā)揮著重要作用了。由 Northpointe 公司制作的稱為 COMPAS 的系統(tǒng)可以預(yù)測(cè)被告人再次犯罪的相關(guān)性，已經(jīng)被一些法官用來(lái)決定是否批準(zhǔn)犯人保釋了。COMPAS 的工作原理尚未公開(kāi)，不過(guò) ProPublica 的調(diào)查發(fā)現(xiàn)了其模型會(huì)不利于少數(shù)族群的證據(jù)。

 

　　然而，事情并不總是像公開(kāi)數(shù)據(jù)細(xì)節(jié)或者所有算法那樣簡(jiǎn)單。大多數(shù)正在崛起的機(jī)器學(xué)習(xí)技術(shù)的工作原理都是特別復(fù)雜和不透明的，所以他們拒絕接受檢測(cè)。為了說(shuō)明這個(gè)問(wèn)題，研究人員正在探索新的方式，讓這些系統(tǒng)向工程師和終端用戶提供其工作原理的某些近似結(jié)果。

 

　　Giannandrea 有充分的理由強(qiáng)調(diào)偏見(jiàn)潛入 AI 內(nèi)部的可能性。世界上的幾個(gè)大公司都在向各種類型的企業(yè)兜售其云計(jì)算平臺(tái)的 AI 能力，谷歌正是其中一個(gè)。這些基于云的機(jī)器學(xué)習(xí)系統(tǒng)設(shè)計(jì)得遠(yuǎn)比其底層算法要簡(jiǎn)單易用。這有助于科技的廣泛應(yīng)用，卻也可能導(dǎo)致偏見(jiàn)的無(wú)聲潛入。提供教程和工具，幫助缺少經(jīng)驗(yàn)的數(shù)據(jù)科學(xué)家和工程師識(shí)別和去除其訓(xùn)練數(shù)據(jù)中的偏見(jiàn)信息，也是十分重要的。

 

　　受邀參加此次谷歌組織的峰會(huì)的數(shù)位演講者也都重點(diǎn)談到了偏見(jiàn)的話題。谷歌公司的研究員 Maya Gupta 是內(nèi)部代號(hào)“GlassBox”小組的成員，她介紹了自己在建造更加透明的算法方面的成果。 Karrie Karahalios 是伊利諾伊大學(xué)的計(jì)算機(jī)科學(xué)教授，他展示了即使是在最稀松平常的算法中要定位偏見(jiàn)信息都是何其困難。Karahalios 展示了用戶通常是不理解 Facebook 如何在他們的信息流中過(guò)濾帖子的。雖然這看起來(lái)無(wú)傷大雅，卻很好的說(shuō)明了算法查詢是多么困難。

 

　　Facebook 的信息流算法肯定可以影響公眾對(duì)于社會(huì)動(dòng)態(tài)甚至重大新聞事件的看法。其他算法可能已經(jīng)在很微妙地扭曲了病人應(yīng)當(dāng)接受的醫(yī)學(xué)護(hù)理，或者人們?cè)谛淌滤痉ㄏ到y(tǒng)中會(huì)被如何處理。這顯然比殺人機(jī)器人嚴(yán)重的多，至少目前如此。

 

　　近年來(lái)人們對(duì)于 AI 的威脅提出了很多荒誕不經(jīng)的警告，Giannandrea 發(fā)出的肯定算是理性的呼聲。特別是埃隆·馬斯克最近警告人們 AI 是比北朝鮮更嚴(yán)重的威脅并可能引發(fā)第三次世界大戰(zhàn)，也是搶占了不少新聞?lì)^條。

 

　　“我反對(duì)的是這一假設(shè)，即我們可能躍遷到某種超級(jí)智能系統(tǒng)，從而導(dǎo)致人類過(guò)時(shí)，” Giannandrea 表示，“我理解人們?yōu)楹侮P(guān)注此事，但是我認(rèn)為此事過(guò)為遙遠(yuǎn)。在我看來(lái)，這種情況很快就會(huì)發(fā)生的觀點(diǎn)是沒(méi)有任何技術(shù)根基的。”