前段時間，微軟解雇了約 50 名 MSN 新聞編輯，同時打算用日漸成熟的 AI 系統(tǒng)取而代之的消息引發(fā)廣泛討論，不少編輯同事都擔(dān)心自己的飯碗將來也會被人工智能搶走。然而事情才過去沒幾天，微軟的 AI 就翻車了。

 

　　據(jù)外媒報道，近日，微軟新的人工智能發(fā)布軟件推送了一篇文章，文中內(nèi)容談到種族主義對一位英國混血女歌手 Jade Thrilwall 的個人影響，但文中的配圖卻是 Jade 的隊友 —— 另一位混血女歌手 Leigh Anne Pinnock 的照片。顯然，該 AI 系統(tǒng)在人臉識別方面犯下了錯誤。

 

（右 1 為 Jade Thirlwall，右 2 為 Leigh Anne Pinnock）

 

　　Jade Thirlwall 是英國女子組合 Little Mix 的一員，近期在一檔與“Black Lives Matter”相關(guān)的 BBC 訪談節(jié)目中，Jade 分享了自己在英格蘭東北部南希爾茲一個以白人為主的社區(qū)環(huán)境下成長遭遇的不平等對待。她的外祖父母來自埃及和也門，而她因為阿拉伯血統(tǒng)而受到同齡人的欺負。

 

（Jade Thirlwall）

 

　　Jade 的這篇采訪稿由《獨立報》報道，并被微軟旗下的 MSN.com 網(wǎng)站轉(zhuǎn)載。該網(wǎng)站收錄了來自全球各地的優(yōu)質(zhì)內(nèi)容，內(nèi)容原本由 AI 系統(tǒng)輔助數(shù)十名人工編輯混合校審，然后發(fā)表。MSN.com 網(wǎng)站過去有數(shù)十名人工編輯策劃，他們負責(zé)挑選故事、新聞和圖片在網(wǎng)站上發(fā)表，直到上個月微軟宣布裁掉約 50 名人工編輯。微軟認為，原本輔助編輯們完成這一系列工作的 AI 發(fā)布系統(tǒng)完全有能力單獨勝任這項工作。

 

　　外界將 MSN 的這一錯誤歸咎于微軟的 AI 算法不可靠。值得一提的是，《衛(wèi)報》媒體編輯吉姆·沃特森（Jim Waterson）聲稱，MSN 正試圖阻止 AI 編輯選擇《衛(wèi)報》上這篇出現(xiàn)配圖錯誤的文章，MSN 的工作人員也被告知等待《衛(wèi)報》這篇文章的發(fā)表，并嘗試從網(wǎng)站上手動刪除它，因為微軟的 AI 機器人編輯很有可能會認為這是 MSN 讀者感興趣的內(nèi)容。

 

　　而微軟方面則否認這一錯誤是由于「不可靠」的人工智能造成的，稱其是自動發(fā)布軟件的一項新功能的邏輯出了問題。“雖然消除偏見和提高準確性仍然是人工智能研究的一個重點領(lǐng)域，但這一錯誤并不是這些問題造成的。”微軟的一位發(fā)言人在周二的一次采訪中解釋說，“只是我們在測試中的一個圖片替換功能出了一些問題，但我們很快關(guān)閉了這一功能，并修正了圖片的錯誤。”

 

　　然而，這個小小的誤會并沒有被忽視。Jade Thirlwall 本人在社交平臺上發(fā)帖指責(zé)了 MSN 的錯誤：“這件事發(fā)生在 Leigh Anne Pinnock 和我身上已經(jīng)很多次了，一直以來都有媒體把我們弄混，這幾乎成了一個惡作劇。你們不能在一個團體的四個成員中區(qū)分出兩個有色人種的女人，這讓我很生氣！”
 

 

　　事實上，目前的 AI 人臉識別技術(shù)確實在膚色、性別方面存在一定的偏見。有研究表明，微軟的 AI 人臉識別技術(shù)雖然準確率已經(jīng)接近 100%（僅限于白人男性），但在識別膚色較深的人種時準確率仍只有 79.2% ~ 94%。而就在兩天前，另一 IT 巨頭 IBM 宣布放棄所有人臉識別相關(guān)技術(shù)業(yè)務(wù)，指出人臉識別技術(shù)存在膚色、性別偏見，旨在聲援日漸加深的種族歧視問題。值得一提的是，IBM 的 AI 人臉識別技術(shù)在識別膚色較深的人種時準確率只有 65.3% ~ 88%。

 

　　近期，隨著 “Black Lives Matter” 運動在歐美地區(qū)的迅速發(fā)酵，其影響力也輻射到了包括 AI 在內(nèi)的技術(shù)領(lǐng)域。比如有國外專家認為編程語言中的主-從（master-slave) 關(guān)系是一種壓迫性的比喻，Blacklist 等類似名詞包含對黑人的歧意等。包括谷歌在內(nèi)的一些互聯(lián)網(wǎng)公司已經(jīng)開始著手處理這些問題，主動更改項目代碼中的一些歧義描述，盡管這些代碼語句已經(jīng)被人們沿用了數(shù)十年。