麥克阿瑟“天才獎”獲得者Trevor Paglen訓(xùn)練AI算法，他的展覽項目“看不見的圖像的研究”（A Study of Invisible Images），反向展示AI如何認識世界。在此過程中，他注意到一些問題，比如作為業(yè)界標準的ImageNet數(shù)據(jù)集中，有很多圖像帶有奇怪的標簽，如今計算機視覺界中使用最多的一張女性圖像來自《花花公子》，類似這樣的數(shù)據(jù)問題以不顯眼但深刻的方式影響著AI研究、應(yīng)用和AI元素越來越多的整個社會。
日前，一系列令人著迷的圖像顯示了計算機在被輸入西方文學(xué)、哲學(xué)和歷史作品中的圖像和符號后，能夠“看到”的東西，這些內(nèi)容簡直太令人熟悉——原來，人工智能里有卡拉瓦喬，有維米爾、有弗朗西斯·培根、達利……如果你努力，甚至還能看到愛德華·霍普。
雖然看上去與古典大師作品十分類似，但這些奇怪而生動的場景并非出自人類大師之手。它們是我們未來的主人——人工智能算法的產(chǎn)物。而這些AI算法則出自藝術(shù)家Trevor Paglen之手，他上周剛剛獲得了50萬美元的麥克阿瑟“天才”獎。
計算機視覺中使用最廣泛的一張女性圖像，是《花花公子》的“11月小姐”
現(xiàn)年43歲Paglen認為，他的使命是聚焦我們周圍的數(shù)據(jù)交換、監(jiān)控和自動化數(shù)據(jù)結(jié)構(gòu)。他最近嘗試將相機對準世界的觀察者——各種監(jiān)控攝像頭，Paglen深入了自動化系統(tǒng)的大腦，揭示了AI系統(tǒng)“眼中所見的事物”。
Paglen在紐約市Metro Pictures畫廊的新展覽，揭示了“云的內(nèi)部是什么樣的？”“人工智能系統(tǒng)實際看到的世界是什么樣的？”
“彗星”（由AI創(chuàng)作，它被訓(xùn)練來識別與歷史上的預(yù)示、征兆有關(guān)的事物，例如彗星、日食、彩虹、黑貓、人臉形狀的云）
（Courtesy of Trevor Paglen and Metro Pictures, New York）
（Courtesy of Trevor Paglen and Metro Pictures, New York）
他的展覽項目，稱為“看不見的圖像的研究”（A Study of Invisible Images），顯示了研究人員用來訓(xùn)練算法進行標注、分類的圖像，展現(xiàn)了AI是如何處理風景、臉部或手勢的，以及AI生成的巴洛克風格的藝術(shù)。
Paglen將AI訓(xùn)練圖像集稱為計算機視覺的“亞當和夏娃”。這些圖像中包括了美軍在上世紀90年代開始收集整理的，面部識別技術(shù)（FERET）計劃中的肖像，這是美軍用于教授計算機識別人臉的圖像，并成為此后計算機視覺研發(fā)的基礎(chǔ)。
美軍在上世紀90年代開始收集整理的，面部識別技術(shù)（FERET）計劃中的肖像，最初是一個軍事計劃，后來成為計算機視覺研究的基礎(chǔ)。
計算機視覺已經(jīng)廣泛應(yīng)用于人們的生產(chǎn)和生活中，從在機場登記到監(jiān)控工場生產(chǎn)管理。所有的這一切都始于像FERET這樣的訓(xùn)練數(shù)據(jù)庫，而這里庫里的圖像標簽可能帶有少數(shù)研究人員無意識的偏見，還由可能來自于未經(jīng)訓(xùn)練的Mechanical Turk外包人員，以及實習(xí)生的偏見。
在去年發(fā)表在 New Inquiry上的一篇文章中，Paglen描述了CNN的識別誤差：
將印象派與寫實派大師馬奈的作品“Olympia”喂給在ImageNet訓(xùn)練的CNN，這個CNN將這幅畫分類成立“卷餅”（burrito）。
馬奈的作品“Olympia”
或許，值得一提的還有計算機視覺中最著名的“夏娃”：Lenna，一名瑞典女性，其形象被《花花公子》雜志撕毀，并于1972年被南加州大學(xué)的工程師掃描復(fù)原。后來《花花公子》雜志授權(quán)，Lenna的形象獲得許可，出現(xiàn)在了世界各地的研究中，成為圖像處理測試的行業(yè)標準。自此，《花花公子》一張“11月小姐”的圖片已經(jīng)成為計算機視覺研究中使用最廣泛的女性圖像之一。這也正是Paglen希望提醒公眾注意的“研究者選擇偏見”。
萊娜圖（局部）：萊娜圖（Lenna）是指刊于1972年11月號《花花公子》上的一張裸體插圖照片的一部分，是一張大小為512x512像素的標準測試圖。
該圖在數(shù)字視頻處理學(xué)習(xí)與研究中頗為知名，常被用作數(shù)字視頻處理各種實驗（例如數(shù)據(jù)壓縮和降噪）及科學(xué)出版物的例圖。
該圖在數(shù)字視頻處理學(xué)習(xí)與研究中頗為知名，常被用作數(shù)字視頻處理各種實驗（例如數(shù)據(jù)壓縮和降噪）及科學(xué)出版物的例圖。
《IEEE圖像處理匯刊》（IEEE Transactions on Image Processing）的主編戴維·蒙森（David C. Munson），在1996年1月引用了兩個原因來說明萊娜圖在科研領(lǐng)域的流行：
“ 首先，該圖片很好的包含了平坦區(qū)域、陰影和紋理等細節(jié)，這些都有益于測試各種不同的圖像處理算法。它是一幅很好的測試照片！其次，由于這是一個非常有魅力女人的照片。因此，多數(shù)由男性組成圖像處理研究行業(yè)傾向于使用他們認為很有吸引力的圖片，也并不令人驚奇。
人臉檢測可能是計算機視覺中最令人擔憂的應(yīng)用。今天，在廣泛使用的圖像處理數(shù)據(jù)庫ImageNet中，一些隨機的個人照片仍然被標記為“jezebel（譯注：耶洗別，《舊約圣經(jīng)》中的負面人物，以色列王國國王亞哈的王后，個性冷酷）”和“犯罪”，不知道在多少的時間里默默地影響著分類和識別的結(jié)果。
“這到底是什么？”Paglen說：“誰在發(fā)明這些類別，為什么有這些類別，而沒有那些？是誰決定這些東西看起來是什么樣的？
偏見是一種特征，不是bug
Paglen 的工作室有一個全職的程序員，以及其他工作人員。使用定制的平臺“Chair”，工作室可以運行自己的計算機視覺測試，在新的數(shù)據(jù)集上訓(xùn)練AI，并生成顯示出AI所學(xué)習(xí)的東西的圖像。Chair 應(yīng)用了不同的機器視覺算法，包括 Caffe, Tensor Flow, Dlib, Eigenface, Deep Visualization Toolbox 和 Open CV。
在一個例子中，Paglen 對他的同事 Hito Steyerl 進行了面部分析。數(shù)百張快照拍下了她的各種表情，包括做鬼臉、大笑、打哈欠、叫喊、憤怒、微笑等等。每一張照片都帶有 AI 對 Steyerl 的年齡、性別和情緒狀態(tài)的猜測。在一張照片中，她被評估為74%的可能是女性。
提出這樣一個復(fù)雜的問題可能是荒謬但卻簡單的：計算機是否應(yīng)該嘗試測量存在不可分割的特征，例如性別、社會屬性、性格等——在沒有詢問它們的主題的情況下？（其次，100%的女性應(yīng)該是什么樣子的？）
圖：機器可讀的 Hito, 2017. 來源：Trevor Paglen, “A Study of Invisible Images.”
AI視覺及其應(yīng)用的這些盲區(qū)能被糾正嗎？
Paglen堅持認為，基于外表進行分類是一種根本上的危險行為。他說：“我認為，種族主義是機器學(xué)習(xí)的一個特征（feature）——而不是一個bug。”“這就是你想要做的事情：你試圖根據(jù)元數(shù)據(jù)標簽來區(qū)分不同的人，而種族就是一個最大的元數(shù)據(jù)標簽，你不會想要把它從系統(tǒng)中拿出來的。”
即使可以消除機器視覺在訓(xùn)練過程中的偏見，你仍然會擔心計算機視覺在影響現(xiàn)實世界的過程中的不透明性。計算機已經(jīng)越來越多地為你做決定，基于大量的訓(xùn)練數(shù)據(jù)和圖像庫，而這些數(shù)據(jù)和圖像對于那些對機器視覺研究不了解的人來說基本上是不可得的。這可能很快就會使傳統(tǒng)的問責制度變得更加復(fù)雜：未來，在企業(yè)或執(zhí)法機構(gòu)中使用計算機視覺技術(shù)的人可能無法追溯AI是如何做出決定的，更不可能讓這一過程對消費者和公民透明。
Paglen 想警醒我們的正是這種看不見的過程，他寫了一些書，包括《盲點》（Blank Spots on the Map: The Dark Geography of the Pentagon’s Secret World）和《視而不見：分類中看不見的運算》（Invisible: Covert Operations and Classified Landscapes）。
AI 如何將人類概念繪制成圖：超現(xiàn)實主義審美，揭露你或許不曾留意的本質(zhì)
在某種程度上，Paglen 當前的展覽中，AI生成的藝術(shù)部分還是相當“黑暗”的。
為了創(chuàng)建它，藝術(shù)家的團隊訓(xùn)練AI來識別數(shù)據(jù)庫中的圖像。這些圖像主要是視覺隱喻或符號，代表了哲學(xué)，當代文化，文學(xué)和精神分析等主題。例如，用于訓(xùn)練人工智能識別“吉兆”或“兇兆”的數(shù)據(jù)庫，包括彩虹和黑貓的圖像，而“美國的捕食者”數(shù)據(jù)庫包括北美當?shù)氐氖橙鈩游锖椭参锏膱D像以及美國的圖像無人機，隱形轟炸機和Facebook創(chuàng)始人馬克·扎克伯格。
然后，AI被要求生成對這些概念進行描繪的草稿。Paglen說：“我們可以讓它畫出數(shù)以萬計的圖片，然后從中挑選出一些能引起我的共鳴的照片”，為機器人畫家扮演策展人角色的Paglen說。
最終的選擇是夢幻般的，總是有一點點融化的物體和朦朧的風景。Paglen說，美學(xué)并不是偶然的。 “有這樣一種哥特式，甚至是超現(xiàn)實主義的審美觀念。這實際上是非常有意思的，就像任何一個藝術(shù)家想要了解一些關(guān)于我們現(xiàn)在所處的當下和政治的時刻的東西。”
“死亡之路”（由AI創(chuàng)作，用第一次海灣戰(zhàn)爭后的照片訓(xùn)練）
“一個男人”（由AI創(chuàng)作，訓(xùn)練來識別人類和姿勢）
一個人工智能繪制的章魚看起來像介于一個石筍和失控的鰻魚之間的東西，漂浮在黑暗的水中。一張關(guān)于一個男人的照片，沒有臉，但是看起來卻很熟悉，說是弗朗西斯·培根的肖像也不為過。一個灰色的風景，名為“死亡高速公路”堪稱完美，“色情”的照片似乎捕捉了人類形體的一些本質(zhì)。
我周圍的游客開始將他們所看到的東西聯(lián)想到人類所創(chuàng)造的名畫。 “卡拉瓦喬，”有人低聲說。Paglen 鼓勵他們。 “這看起來很像維米爾，”他建議，指向一個名為Venus Flytrap的發(fā)光靜物。
“捕蠅草”（由AI創(chuàng)作，訓(xùn)練來識別“美國掠食者”，包括食肉植物和動物，無人機，隱形轟炸機和馬克·扎克伯格）
Paglen選擇像呈現(xiàn)繪畫一樣呈現(xiàn)這些圖像，掛在深灰色的墻壁上，讓人想起著名藝術(shù)博物館的畫廊。Paglen說：“我正在思考圖像，視覺和人類看東西的歷史。”
“通過給它一點點的歷史審美，我可以更加堅定地找到它。在將后臺和圖像組合在一起方面，我非常清楚，這應(yīng)該是一個混亂的Tate Britain的版本。
它很混亂。但是看起來還是令人驚訝。最后，結(jié)果與其他任何好的藝術(shù)對觀眾的影響是不一樣的：你以一種新的方式來看待圖像，并且欣賞它們可以為你做些什么。
