現(xiàn)代人工智能經(jīng)常因其日益復(fù)雜而受到稱贊，但主要是在厄運(yùn)方面。如果您處于世界末日的末日，人工智能革命將使數(shù)百萬個(gè)工作自動(dòng)化，消除現(xiàn)實(shí)與技巧之間的障礙，并最終將人類推向滅絕的邊緣。一路上，也許我們會(huì)得到機(jī)器人管家，也許我們會(huì)被塞進(jìn)胚胎豆莢并收集能量。誰知道。
但很容易忘記，現(xiàn)在的大多數(shù)人工智能都非常愚蠢，并且只在其底層軟件經(jīng)過專門訓(xùn)練的狹窄、利基領(lǐng)域才有用，比如玩中國古代棋盤游戲或?qū)⒁环N語言的文本翻譯成另一種語言。
讓你的標(biāo)準(zhǔn)識(shí)別機(jī)器人做一些新奇的事情，比如只使用它所獲得的知識(shí)來分析和標(biāo)記一張照片，你會(huì)得到一些荒謬可笑的結(jié)果。這就是ImageNet Roulette背后的樂趣，這是一個(gè)漂亮的網(wǎng)絡(luò)工具，作為正在進(jìn)行的關(guān)于圖像識(shí)別系統(tǒng)歷史的藝術(shù)展覽的一部分而構(gòu)建。
IMAGENET ROULETTE 會(huì)對(duì)你做出極其隨機(jī)且極其錯(cuò)誤的假設(shè)
正如藝術(shù)家兼研究員特雷弗·帕格倫( Trevor Paglen)與人工智能研究員凱特·克勞福德 (Kate Crawford ) 創(chuàng)建展覽“訓(xùn)練人類”所解釋的那樣，重點(diǎn)不是對(duì)人工智能做出判斷，而是要了解其當(dāng)前的形式及其復(fù)雜的學(xué)術(shù)和商業(yè)歷史，就像荒誕的有可能。
“兩年多前，當(dāng)我們第一次開始構(gòu)思這個(gè)展覽時(shí)，我們想講述一個(gè)關(guān)于用于在計(jì)算機(jī)視覺和人工智能系統(tǒng)中‘識(shí)別’人類的圖像歷史的故事。我們對(duì)人工智能的大肆營銷版本和反烏托邦機(jī)器人未來的故事都不感興趣，”克勞福德告訴米蘭的普拉達(dá)基金會(huì)博物館，那里有培訓(xùn)人類。“我們想?yún)⑴c AI 的重要性，并將這些日常圖像作為快速發(fā)展的機(jī)器視覺文化的一部分認(rèn)真對(duì)待。這要求我們打開黑匣子，看看這些‘視覺引擎’目前是如何運(yùn)作的。”
這是一項(xiàng)值得追求和引人入勝的項(xiàng)目，即使 ImageNet Roulette 代表了它更愚蠢的一面。這主要是因?yàn)?ImageNet 是 AI 研究人員在過去十年中一直依賴的著名訓(xùn)練數(shù)據(jù)集，但通常不擅長識(shí)別人。它主要是一個(gè)對(duì)象識(shí)別集，但它有一個(gè)“人”類別，其中包含數(shù)千個(gè)子類別，每個(gè)子類別都勇敢地嘗試幫助軟件完成看似不可能的人類分類任務(wù)。
你猜怎么著？ImageNet 輪盤賭非常擅長。
我什至不抽煙！但出于某種原因，ImageNet Roulette 認(rèn)為我這樣做了。它似乎也相信我在飛機(jī)上，盡管值得稱贊的是，開放式辦公室布局僅比懸掛在數(shù)萬英尺高空的狹窄金屬管稍微少一點(diǎn)窒息感。
ImageNet Roulette 由在 Paglen 手下工作的開發(fā)人員 Leif Ryge 組合在一起，作為一種讓公眾參與藝術(shù)展覽關(guān)于機(jī)器學(xué)習(xí)系統(tǒng)高深莫測性質(zhì)的抽象概念的方式。
這是讓它生效的幕后魔法：
該項(xiàng)目的一部分還在于強(qiáng)調(diào) ImageNet 以“有問題”和“冒犯性”的方式對(duì)人進(jìn)行分類的根本缺陷，因此是人性化的。（在 Twitter 上出現(xiàn)的一個(gè)有趣的例子是，一些上傳照片的男人似乎被隨機(jī)標(biāo)記為“強(qiáng)奸嫌疑人”，原因不明。）Paglen 說，這對(duì)于該項(xiàng)目強(qiáng)調(diào)的主題之一至關(guān)重要，即人工智能的易錯(cuò)性系統(tǒng)以及機(jī)器學(xué)習(xí)偏見的普遍存在，這是由于人類創(chuàng)造者受到損害而導(dǎo)致的：
盡管 ImageNet 輪盤是一種有趣的消遣，但Training Humans的基本信息是一個(gè)黑暗但至關(guān)重要的信息。
“ Training Humans特別探討了兩個(gè)基本問題：如何通過訓(xùn)練數(shù)據(jù)集來表示、解釋和編碼人類，以及技術(shù)系統(tǒng)如何收集、標(biāo)記和使用這些材料，”展覽描述中寫道，“隨著 AI 系統(tǒng)對(duì)人類的分類變得越來越侵入性和復(fù)雜性，他們的偏見和政治變得明顯。在計(jì)算機(jī)視覺和人工智能系統(tǒng)中，測量形式很容易——但秘密地——轉(zhuǎn)化為道德判斷。”
