在演講中，Stuart  Russell先生澄清了一些AI方面的誤解，指出它是一個典型的、深度學(xué)習(xí)的架構(gòu)，并指出AI對金融領(lǐng)域的影響。以下是Stuart  Russell先生演講精選。非常感謝大家邀請我來到這里，非常榮幸，這也是我第一次來到上海。我的女兒在上海住過一年，她很喜歡這個城市，我也非常高興來到上海。首先也要澄清一些AI方面的誤解，AI并不是有感知的機(jī)器，并不是我們要擔(dān)心機(jī)器突然醒來憎恨人類，這些AI，并不一定都是深度學(xué)習(xí)的。大數(shù)據(jù)，也是我們經(jīng)常見到的詞，但是很多時候AI并不是和這些概念相關(guān)。另外，它并不是萬能藥，并不是所有的問題可以用人工智能來做，很多問題我們不能理解，我們應(yīng)該怎么做、怎么理解怎么做、怎么解決，但是AI的進(jìn)程，在未來我們非常樂觀，來幫助我們解決。比如在英國、歐洲，有很多的銀行現(xiàn)在都在設(shè)計人工智能的APP。目前也做了很多研究，AI怎么對人們提供服務(wù)，已經(jīng)發(fā)展了很多，但依然還有很長的路，AI可以繼續(xù)發(fā)展，為人們提供更好的服務(wù)。從金融方面的經(jīng)典方式，沒有模型經(jīng)典方式的機(jī)器來做。你在電腦里面收集一些已知來源的數(shù)據(jù)，比如個人的信用卡交易結(jié)果，他們是否歸還了信用卡欠款？還是違約了？我們把這些信息收集之后，創(chuàng)建一個預(yù)測的分類器。對于新的用戶來說，收集他們的數(shù)據(jù)，預(yù)測他們是否會違約，以及基于他們過往的交易，決定給他們多少額度。這也是基于電腦的決策樹、深度神經(jīng)網(wǎng)等技術(shù)來實行。一旦建立了分類器，客戶有新的事件你就可以來應(yīng)用了。相比人類的專家來說，我們認(rèn)為AI非常有價值，可以以非常低的成本做出預(yù)測，這是一個典型的、深度學(xué)習(xí)的架構(gòu)。在座的各位可能對公司分析來說，都會知道一些基本內(nèi)容。中石油，你想對它的股票進(jìn)行分析，你看它的基本面、看它的交易、市場、相關(guān)風(fēng)險等等，你要預(yù)測他們的財務(wù)結(jié)果。利用AI，對于個人也可以進(jìn)行分析。非常重要的就是多少人可以被模型使用。我們可以對每個人進(jìn)行分析，收集他們生命周期的靜態(tài)變量，他們的生日、教育、婚姻、子女、工作、住所等，這些參數(shù)和變量，可能對他們的金融行為都會有很大的影響，來幫助我們進(jìn)行預(yù)測。比如他們是否會搬家，子女的教育是什么樣的情況？他們還有幾年才退休等等，這些人們生命事件，可以影響每個人的金融交易和他們未來的金融模式、金融行為。我們對于每個人可以建立這樣的金融模型，我們也可以進(jìn)行預(yù)測它的金融交易結(jié)果，來知道他們的金融交易、他們的賬戶、金融的流向、貨幣的兌換，當(dāng)我們收集到這些數(shù)據(jù)的時候，我們看到這個人做了這個交易，就可以監(jiān)測這些數(shù)據(jù)是否是真實的、是否是合理的。這種方式的優(yōu)點，就是我們可以通過收集的數(shù)據(jù)來解釋決策。我們不能提供給你這個理財產(chǎn)品、不可以給你提供借貸，你可以解釋給他們?yōu)槭裁床豢梢赃@么做。另外，可以通過更少的數(shù)據(jù)，做出更精準(zhǔn)的預(yù)測。還有就是數(shù)據(jù)的錯誤率、失落率也會比較低。也有劣勢，基于模型的方法的，第一個是它的成本非常高，因為你要有建模的專家和實際數(shù)據(jù)當(dāng)中要做很多的實驗，但這是一勞永逸的。也就是說，每個人出生、去學(xué)校，他們會結(jié)婚、有子女、退休、過世，人生的事件或多或少是一樣的，建立一個模型就可以一勞永逸，再用AI的軟件進(jìn)行分析。轉(zhuǎn)換一下話題，講一下金融行業(yè)以及AI對金融行業(yè)的影響。我們比較熟悉P2P借貸、銀行的APIs，也就是第三方寫軟件，和銀行直接進(jìn)行交互、幫助銀行操作他們客戶的賬戶。一個公司A它的借口比較好，相比銀行B更好，那我就要選擇銀行A做我的開戶行。接口、界面非常重要，能夠決定人們選擇哪個銀行為他提供服務(wù)，賬本是在哪個銀行的，有區(qū)塊鏈和相關(guān)的軟件，我們可以看到很多大銀行就蒸發(fā)掉了，因為可能他們對個性化的服務(wù)做得并不是很好，所以在技術(shù)發(fā)展過程當(dāng)中落后了。AI方面，人們會增加個人的數(shù)字助理，大家都有助理。通過手機(jī)也可以幫助你提供很多的建議。你的個人助理，可以幫你自動發(fā)起金融交易，預(yù)定酒店、買機(jī)票，確保你的孩子在學(xué)校好好學(xué)習(xí)等等，這些都會自動化來進(jìn)行，也包括了金融交易的自動進(jìn)行。銀行的客戶可能并不是真實的人，而是數(shù)字助手，觸發(fā)某個事件之后就會進(jìn)行金融交易。另外一個很大的變化，就是交易系統(tǒng)。我們知道在美國的交易所，大多數(shù)的交易都是電腦軟件進(jìn)行的，現(xiàn)在會越來越多的進(jìn)行電腦軟件自主交易。另外講一下交易系統(tǒng)，我們有算法。有些時候比較簡單，就是套利的。還有越來越復(fù)雜的，比如單個股票基礎(chǔ)面的分析、能夠自動閱讀這些新聞，從彭博、SEC等接口進(jìn)行股票的交易。其中我們見到的一個很大的問題，這些系統(tǒng)只是從字面上來收集信息。推特被認(rèn)可劫持了，所以一個推特信息說“奧巴馬受傷了”，機(jī)器得到這個信息，也不判斷，直接就賣掉這些股票了，低于2分鐘的時間，超過2萬億的股票被賣掉。如果是人做交易，他們會進(jìn)行驗證，會打電話給華盛頓的朋友。經(jīng)過20分鐘，市場又自動的恢復(fù)了之前的交易狀態(tài)，這些都非常重要。機(jī)器可能只是機(jī)械化的收到信息，有些信息可能是故意造假的，機(jī)器自動讀取，對系統(tǒng)會造成很大的擾亂、對客戶造成很大的損失。從監(jiān)管來說，也造成了挑戰(zhàn)。比如亞馬遜網(wǎng)站，一本普通的生物學(xué)的書差不多40美元。有一個出售1800萬，另外一個是2300萬，這是因為有兩個機(jī)器人，他們覺得這本書非常復(fù)雜，所以他們不斷的把這本書的價格提升，一直提升到非常高。如果你有自動財務(wù)顧問，他們可能覺得這本書比較合理，它就會買，這會對你的賬戶造成很大的損失。大事件，2到3分鐘，使整個的市值損失1萬億，這也是程序化不理解市場而造成的“五龍指”，非?？焖龠M(jìn)行交易，對于市場造成了很大的問題。2014年的時候，200個股票的市場下滑更快，0.1秒的時間，有些股票跌了20%，這對很多人來說發(fā)展太快了，0.1秒，當(dāng)你把權(quán)利給到機(jī)器，他們不理解他們在做什么，這對你造成的損失是無法估量的。從長期來說，我們認(rèn)為AI系統(tǒng)在很長的時間里面的發(fā)展，最終會比人類決策優(yōu)化?，F(xiàn)在，我們在做AI的時候，所有的因素都要考慮進(jìn)去。一些超級的、智能的機(jī)器，最終可能會給我們帶來災(zāi)難性的損失。不管是控制，還是研究，我們現(xiàn)在創(chuàng)造了一些系統(tǒng)，它可以幫助我們把某些事物進(jìn)行優(yōu)化。對于這個領(lǐng)域的定義，并不是非常精確的，它是一個錯誤的定義。我們所需要的AI是什么？這樣的AI系統(tǒng)，我們希望它能夠執(zhí)行我們的命令，而且它產(chǎn)生的結(jié)果，一定是我們比較滿意的。比如這個國王，當(dāng)時有這樣一個想優(yōu)化的目標(biāo)，但是優(yōu)化之后的結(jié)果并不是他最初想要的，這是我們需要避免的現(xiàn)象。我們怎么樣才可以避免？這里有三個想法：1、機(jī)器人只有一個任務(wù)、目標(biāo)，就是把人類的幸福指數(shù)最大化。2、機(jī)器人并不知道這里面的含義是什么，因為并不確定，人類什么才是開心的事情，真正讓我們開心的事情是什么？3、機(jī)器人是通過觀察人們的行為來進(jìn)行學(xué)習(xí)的，人們喜歡什么、不喜歡什么，會通過我們的行為展示出來。讀經(jīng)濟(jì)學(xué)會知道有一個“博弈論”，如果我們有這樣的一個博弈，如果人類知道這樣的目標(biāo)，機(jī)器人先把這個目標(biāo)進(jìn)行優(yōu)化，但是機(jī)器人并不知道本來的目標(biāo)是什么。如果有不匹配，是否會產(chǎn)生問題？總結(jié)一下，我剛才講了很多AI在金融領(lǐng)域的影響，最基本的，現(xiàn)在已經(jīng)存在了40到50年，它可以幫助我們進(jìn)行數(shù)據(jù)的整合、分析、預(yù)測，還有一些顧問方面的服務(wù)。另外，我們?nèi)绻梢愿玫睦斫馊祟?，才可以幫助我們得到更好的結(jié)果。市場上我們看到一些交易的策略，現(xiàn)在越來越有效了，可以幫助我們改進(jìn)市場上的效率。因此，我們要非常了解，怎么才可以更好的把這些機(jī)器人在我們的控制當(dāng)中，不能失控。有一個諺語“煤礦里的金絲雀”，煤礦中的金絲雀可以幫我們預(yù)測未來可能出現(xiàn)的問題。煤炭當(dāng)中沒有氧氣了，金絲雀就會立馬檢測到，我們需要把它當(dāng)做我們風(fēng)險檢測的工具，我們要很好的管理AI存在的風(fēng)險，而且是高速管理和控制。隨著AI的進(jìn)步和推進(jìn)，AI的系統(tǒng)怎么樣控制、怎么樣了解人們的價值，以及AI的價值，怎么把兩者的價值結(jié)合起來，將是我們未來要探討的很重要的議題，感謝各位的聆聽。