到目前為止，幾乎所有人都可以直接地感受到這一事實，即人類和人工智能技術(shù)的關(guān)系仍有待提升。
亞馬遜將個人助理Alexa被接入自己的在線商店，并且可以從維基百科上獲取信息。
但是，當(dāng)用戶說想要聽一聽自己剛剛聽到的今夏最熱單曲時，得到的回答卻是“不好意思，我不明白這個問題”。所有被認(rèn)為很智能的個人助手，包括蘋果的Siri和谷歌的GoogleAssistant都會讓人失望。這時我們會感受到所謂的“人工愚蠢”。
這也是谷歌開始一項新的旨在了解和改善人類與人工智能之間的關(guān)系的項目的原因之一。
日前，谷歌宣布了一個“人+人工智能”關(guān)系的研究項目：PAIR計劃。該計劃將由兩名數(shù)據(jù)可視化專家FernandaViégas和MartinWattenberg領(lǐng)導(dǎo)。他們希望通過一系列技術(shù)和創(chuàng)意改進人工智能系統(tǒng)，以減少其讓人們感到失望或者驚訝的幾率。
在無法做到我們期望他們可以做到的事情時，虛擬助理們會讓人抓狂。
Viégas說，她很有興趣研究人們對這些機器能力界限所產(chǎn)生的期望是如何形成的，以及如何在設(shè)計過程中確保人們只向人工智能提出他們能力可以實現(xiàn)的要求。
她說：“一個研究焦點是當(dāng)用戶與虛擬助手互動時，如何重置用戶的期望。”
Viégas和Wattenberg的PAIR項目源于位于山景城的谷歌大腦人AI團隊。他們此前在這一團隊中開發(fā)可以讓研究者和工程師觀察到機器學(xué)習(xí)內(nèi)部工作機制的工具。
PAIR項目將繼續(xù)研究這一問題，該項目今天發(fā)布了兩種開源工具，以幫助工程師了解他們正在向機器學(xué)習(xí)系統(tǒng)灌輸?shù)臄?shù)據(jù)。
不過，這項新舉措也將致力于讓人工智能更好地服務(wù)于那些不懂技術(shù)的人群。
這些深度學(xué)習(xí)算法在分析個人數(shù)據(jù)或通過醫(yī)學(xué)影像診斷疾病時發(fā)揮了重大作用，與此同時，它們也因其具有的被稱作“黑箱”的特征而聞名。黑箱意味著很難真正了解到為什么系統(tǒng)會做出某種決定，例如一個診斷結(jié)果。
這是一個問題，因為這樣的軟件正逐步被用于一些性命攸關(guān)的場合：手術(shù)臺或行駛中的無人車。
Viégas說：“醫(yī)生需要對情況有一定的了解，這包括機器提出的建議或者預(yù)測的依據(jù)。”
這可能意味著要想辦法讓診斷軟件可以突出掃描影像中影響其結(jié)論、或者導(dǎo)致其做出某種解釋的部分。
谷歌開展這一項目正值人們愈發(fā)關(guān)注人工智能所帶來的后果之際。
今天，人工智能倫理和治理基金，在包括騎士基金會和領(lǐng)英聯(lián)合創(chuàng)始人雷德霍夫曼在內(nèi)的支持者的支持下，宣布向公共組織提供760萬美元以研究人工智能可能給勞動力市場和刑事司法系統(tǒng)等領(lǐng)域帶來的變化。
與谷歌其他新項目一樣，PAIR的大部分研究工作將被公開。
舉例來說，麻省理工學(xué)院和哈佛大學(xué)的教授HalAbelson和BrendanMeade將會同PAIR合作，以研究AI如何幫助提升教育和科研工作。但是，研究如何讓人類和人工智能更加兼容也可以帶來顯著的商業(yè)利益，這也是為什么首席執(zhí)行官桑達爾皮查伊將谷歌描述為一家“AI優(yōu)先”的公司。
例如，如果PAIR能夠幫助人工智能技術(shù)更順利地融入于諸如醫(yī)療等領(lǐng)域，那么它將能夠為谷歌的人工智能云業(yè)務(wù)帶來新客戶群。
Viégas說，她也希望與能于例如谷歌助理的幕后團隊這樣的產(chǎn)品團隊進行密切合作。這樣的合作可能會帶來豐厚的利潤，因為它能讓人們更好地使用產(chǎn)品，而這也成為公司更多服務(wù)的入口，并能帶來潛在的廣告業(yè)務(wù)。
PAIR不僅有助于增進全社會對人類和人工智能如何更好結(jié)合的認(rèn)識，也可以幫助提高谷歌的競爭力。
