問(wèn)題：“2017 年，機(jī)器學(xué)習(xí)和人工智能最重要的發(fā)展是什么，2018 年有何關(guān)鍵趨勢(shì)？”

 

　　2017 年，KDnuggets 曾就這一問(wèn)題收集了很多專(zhuān)家的預(yù)測(cè)，總的來(lái)說(shuō)，當(dāng)時(shí)他們對(duì) 2017 年機(jī)器學(xué)習(xí)和 AI 發(fā)展的趨勢(shì)和預(yù)測(cè)主要集中在以下方面：

 

　　AlphaGo 的成功

 

　　深度學(xué)習(xí)熱潮

 

　　自駕車(chē)

 

　　TensorFlow 對(duì)神經(jīng)網(wǎng)絡(luò)技術(shù)商業(yè)化的影響

 

　　目前來(lái)看，這些預(yù)測(cè)基本上應(yīng)驗(yàn)，2017 年在這些方面確實(shí)取得了重要的進(jìn)步。

 

　　為了了解年度最重要的發(fā)展動(dòng)態(tài)，以及專(zhuān)家對(duì)機(jī)器學(xué)習(xí)和人工智能將在 2018 年取得的成果預(yù)測(cè)，參考專(zhuān)家的意見(jiàn)非常有必要。

 

 

 

　　“今年的亮點(diǎn)非 AlphaGo Zero 莫屬。這種新方法不僅在一些最有發(fā)展前景的方向上有所改進(jìn)（例如深度強(qiáng)化學(xué)習(xí)），而且也代表了學(xué)習(xí)范式的轉(zhuǎn)變——這種模式可以在沒(méi)有數(shù)據(jù)的情況下進(jìn)行學(xué)習(xí)，而且最近我們也學(xué)會(huì)了將 AlphaGo Zero 應(yīng)用到象棋等其他游戲中。

 

　　在人工智能技術(shù)方面，2017 年始于 Pytorch，并對(duì) Tensorflow 構(gòu)成真正意義上的挑戰(zhàn)，特別是在研究方面。對(duì)此，Tensorflow 通過(guò)在 Tensorflow Fold 中發(fā)布動(dòng)態(tài)網(wǎng)絡(luò)迅速作出回應(yīng)。大玩家之間的“AI 之戰(zhàn)”轟轟烈烈，其中最激烈的戰(zhàn)爭(zhēng)均圍繞云而展開(kāi)，所有的主要供應(yīng)商都已經(jīng)在各自的云服務(wù)中加緊布局 AI。亞馬遜已經(jīng)在他們的 AWS 進(jìn)行大量創(chuàng)新，比如其最近推出構(gòu)建和部署 ML 模型的 Sagemaker。另外值得一提的是，小型玩家也在不斷涌入，例如 Nvidia 最近推出了他們的 GPU 云，位訓(xùn)練深度學(xué)習(xí)模型提供了另一個(gè)有趣的選擇。雖然戰(zhàn)況激烈，但我很高興看到各行業(yè)在必要時(shí)能夠凝聚在一起。另外，新的 ONNX 神經(jīng)網(wǎng)絡(luò)表達(dá)標(biāo)準(zhǔn)化是實(shí)現(xiàn)互操作性重要且必要的一步。

 

　　2017 年，人工智能方面的社會(huì)問(wèn)題將進(jìn)一步升級(jí)。Elon Musk 認(rèn)為 AI 會(huì)越來(lái)越接近殺手機(jī)器人的想法極具煽動(dòng)性，讓許多人感到沮喪。另外，關(guān)于人工智能在未來(lái)幾年會(huì)對(duì)工作產(chǎn)生什么影響也引起了廣泛的討論。另一方面，我們會(huì)將更多的注意力集中在 AI 算法的透明度問(wèn)題上。

 

 

　　機(jī)器學(xué)習(xí)模式，特別是深度學(xué)習(xí)模式正在對(duì)醫(yī)療保健、法律制度、工程和金融業(yè)等關(guān)鍵領(lǐng)域產(chǎn)生重大影響。但是，大多數(shù)機(jī)器學(xué)習(xí)模型難以解釋。了解一個(gè)模型如何在剖析和診斷模型中進(jìn)行預(yù)測(cè)的原理尤為重要，因?yàn)槟Ｐ吞岢龅念A(yù)測(cè)必須值得我們信賴(lài)。重要的是，一些機(jī)器學(xué)習(xí)模型的決定必須遵守法律法規(guī)?，F(xiàn)在，我們創(chuàng)建的深度學(xué)習(xí)模型的預(yù)測(cè)原理必須足夠透明，特別是當(dāng)這些模型的結(jié)果會(huì)影響人類(lèi)的決定，或用來(lái)做出決定的時(shí)候。

 

　　AI 賭神 Libratus 戰(zhàn)勝德州撲克專(zhuān)家，將 AI 的主導(dǎo)地位擴(kuò)展到并不完善的信息游戲中。

 

　　自動(dòng)駕駛汽車(chē)和虛擬助手之間的競(jìng)爭(zhēng)越來(lái)越激烈，Alexa 在后者中占有一席之地。

 

　　谷歌、亞馬遜、微軟和 IBM 之間的云 AI 競(jìng)賽。

 

　　AlphaGo Zero 很偉大，但并沒(méi)有實(shí)質(zhì)性的突破。自我對(duì)弈游戲是 ML 最常見(jiàn)的挑戰(zhàn)領(lǐng)域，人類(lèi)經(jīng)過(guò)不到 500 萬(wàn)場(chǎng)游戲訓(xùn)練即可掌握 Go 游戲的玩法。

 

　　2017 年是 AI 的一年，2018 年將是 AI 走向成熟的一年，我們已經(jīng)從 AI 與“系統(tǒng)工程 / 云原生”的角度看到這一趨勢(shì)。 AI 講變得越來(lái)越復(fù)雜，但 h2o.ai 這樣的公司會(huì)讓部署 AI 變得更簡(jiǎn)單。

 

　　我看到人工智能在企業(yè)之間取得競(jìng)爭(zhēng)優(yōu)勢(shì)方面的作用越來(lái)越大，特別是在工業(yè)物聯(lián)網(wǎng)、零售和醫(yī)療保健方面。我也看到人工智能正在被迅速部署在企業(yè)的各個(gè)層面（創(chuàng)造新的機(jī)會(huì)，但更多工作崗位消失）。因此，這已經(jīng)超越了 Python vs R 和 cats 的討論！

 

　　此外，我認(rèn)為人工智能是通過(guò)嵌入式人工智能（即跨越企業(yè)和物聯(lián)網(wǎng)的數(shù)據(jù)科學(xué)模型）合并傳統(tǒng)企業(yè)，以及更加廣泛的供應(yīng)鏈。

 

　　最后，除了銀行等傳統(tǒng)行業(yè)（尤其是工業(yè)物聯(lián)網(wǎng)）之外，了解 AI / 深度學(xué)習(xí)技術(shù)的數(shù)據(jù)科學(xué)家短缺的情況將繼續(xù)存在。

 

　　ML＆AI 幫助企業(yè)提高效率

 

　　2017 年見(jiàn)證了 ML＆AI 取得巨大的進(jìn)步，特別是最近 DeepMind 的一般強(qiáng)化學(xué)習(xí)算法，在四小時(shí)內(nèi)自學(xué)游戲規(guī)則，并擊敗世界上最強(qiáng)大的象棋游戲程序。

 

　　2018 年，我期望看到智能自動(dòng)化滲透到傳統(tǒng)制造企業(yè)、零售、公共事業(yè)單位等各種公司。隨著數(shù)據(jù)收集和分析量不斷增長(zhǎng)，企業(yè)級(jí)自動(dòng)化系統(tǒng)戰(zhàn)略將變得至關(guān)重要。這將促使公司投資于長(zhǎng)期 AI 計(jì)劃，并將其列為企業(yè)成長(zhǎng)和提高效率的優(yōu)先級(jí)發(fā)展事項(xiàng)。

 

　　我們還將看到自動(dòng)化機(jī)器學(xué)習(xí)幫助非 AI 研究人員更輕松地使用該技術(shù)，并讓更多公司能夠?qū)C(jī)器學(xué)習(xí)方法應(yīng)用到他們的工作場(chǎng)所中。

 

 

　　機(jī)器學(xué)習(xí)最讓我興奮的一個(gè)趨勢(shì)是元學(xué)習(xí)（meta-learning）的發(fā)展。元學(xué)習(xí)是一個(gè)特別廣泛的總稱(chēng)。但是今年，最讓我興奮的是我們?cè)谏贁?shù)學(xué)習(xí)問(wèn)題上取得了進(jìn)展，這就解決了如何從若干例子中發(fā)現(xiàn)學(xué)習(xí)算法的問(wèn)題。Chelsea Finn 在今年年初曾就這一話(huà)題的進(jìn)展，在這篇博客中 中進(jìn)行了很好的總結(jié)。值得注意的是，現(xiàn)在在機(jī)器學(xué)習(xí)方面，Chelsea Finn 是眾多令人驚嘆的博士生中，最有成就、最令人印象深刻的人之一。

 

　　今年年末，人們使用深度時(shí)間卷積網(wǎng)絡(luò)、圖形神經(jīng)網(wǎng)絡(luò)等方法，進(jìn)行了更多關(guān)于用少量鏡頭學(xué)習(xí)的元學(xué)習(xí)研究?，F(xiàn)在，元學(xué)習(xí)方法也更多地被用于主動(dòng)學(xué)習(xí)、冷啟動(dòng)項(xiàng)目推薦、少數(shù)分布預(yù)測(cè)、強(qiáng)化學(xué)習(xí)、分層 RL、模仿學(xué)習(xí)等。

 

　　這是一個(gè)令人興奮的領(lǐng)域，我一定會(huì)在 2018 年對(duì)這一領(lǐng)域保持密切關(guān)注。

 

　　2017 年，深度學(xué)習(xí) AI 平臺(tái)和應(yīng)用程序發(fā)展勢(shì)頭迅猛。Facebook 發(fā)布了 Tensorflow 的競(jìng)品 PyTorch，以及 Gluon、Alex、AlphaGo 等進(jìn)步，ML 從特征工程和邏輯回歸發(fā)展到閱讀論文、應(yīng)用神經(jīng)網(wǎng)絡(luò)、優(yōu)化訓(xùn)練效果。在我的咨詢(xún)實(shí)踐中，客戶(hù)已經(jīng)在尋求自定義對(duì)象檢測(cè)、高級(jí) NLP 和強(qiáng)化學(xué)習(xí)服務(wù)。當(dāng)市場(chǎng)和比特幣飆升的時(shí)刻，人工智能一直在進(jìn)行著沉默的革命，其再零售業(yè)應(yīng)用也啟示著人們，人工智能改變整個(gè)行業(yè)的巨大潛力。企業(yè)想要變革，對(duì) AI 技術(shù)和技術(shù)指導(dǎo)非常感興趣。

 

　　2018 年必將成為全球人工智能優(yōu)先發(fā)展的突破之年。隨著中國(guó)和加拿大的人工智能和印度等國(guó)家從 IT 向人工智能轉(zhuǎn)變，來(lái)自歐洲、亞洲、印度、沙特阿拉伯等國(guó)家，乃至全球?qū)?AI 的需求將繼續(xù)增長(zhǎng)。美國(guó)和海外對(duì)企業(yè)培訓(xùn)的需求都很大，人工智能將實(shí)現(xiàn)大規(guī)模提高效率，傳統(tǒng)行業(yè)如制造業(yè)、醫(yī)療保健和金融將會(huì)從中受益。人工智能創(chuàng)業(yè)公司將向市場(chǎng)推出新產(chǎn)品，并全面提高投資回報(bào)率。而機(jī)器人、自動(dòng)駕駛汽車(chē)等新技術(shù)將會(huì)帶來(lái)驚人的進(jìn)步。

 

　　這將是一個(gè)偉大的創(chuàng)新之年。如果你已經(jīng)在這條船上。

 

 

　　在過(guò)去的幾年中，開(kāi)源社區(qū)已經(jīng)對(duì)所有新出現(xiàn)的深度學(xué)習(xí)框架討論不斷?，F(xiàn)在，這些工具已經(jīng)漸漸成熟，我希望看到一種去工具中心的方法出現(xiàn)，并將投入更多的精力，將深度學(xué)習(xí)的新穎想法付諸實(shí)踐，特別是使用今年很火爆的 GAN 和 Hinton capsule 來(lái)解決更多問(wèn)題。

 

　　此外，最近的半對(duì)抗神經(jīng)網(wǎng)絡(luò)保護(hù)臉部圖像隱私的論文，或多或少可以透露出用戶(hù)隱私在深度學(xué)習(xí)應(yīng)用程序中的重要性，我非常關(guān)心，并希望這個(gè)話(huà)題再 2018 年獲得更多的關(guān)注。

 

 

　　2017 年還取得了很多機(jī)器擊敗人類(lèi)的成就。去年，AlphaGo 擊敗了人類(lèi)圍棋世界冠軍，成為戰(zhàn)勝人類(lèi)智慧的里程碑。今年，AlphaGo Zero 通過(guò)從零自學(xué)，打敗了它的“兄弟”。

 

　　它不僅擊敗了人類(lèi)，還擊敗了全體人類(lèi)的圍棋智慧。此外，機(jī)器現(xiàn)在可以像人類(lèi)一樣通過(guò)總機(jī) benchmark 解碼對(duì)話(huà)

 

　　然而，人工智能取得的成就仍然偏狹脆弱，改變圖像中的單個(gè)像素就可以挫敗最先進(jìn)的分類(lèi)器。我預(yù)測(cè)，2018 年會(huì)有更多強(qiáng)大的人工智能解決方案出現(xiàn)，幾乎所有大型科技公司都開(kāi)始嘗試 AI，其早期研究成果出來(lái)之后必定會(huì)成為新聞?lì)^條，“AGI”將會(huì)取代“AI”，成為 2018 年的流行詞。

 

 

　　2017 年，更多地公司和個(gè)人將他們的數(shù)據(jù)和分析轉(zhuǎn)向基于云的解決方案，數(shù)據(jù)安全重要性的意識(shí)有很大提高。

 

　　最大的和最成功的技術(shù)公司在競(jìng)爭(zhēng)著成為用戶(hù)的數(shù)據(jù)存儲(chǔ)和分析平臺(tái)。對(duì)于數(shù)據(jù)科學(xué)家來(lái)說(shuō)，這意味著，這些平臺(tái)所能提供的功能和能力正在塑造著他們的開(kāi)發(fā)工具箱和解決方案。

 

　　2017 年，數(shù)據(jù)安全漏洞問(wèn)題在全球范圍內(nèi)引起關(guān)注。這是一個(gè)不容忽視的問(wèn)題，隨著越來(lái)越多的數(shù)據(jù)轉(zhuǎn)移到第三方存儲(chǔ)平臺(tái)，對(duì)于應(yīng)對(duì)新威脅的強(qiáng)大安全性能的需求將繼續(xù)增長(zhǎng)。

 

 

　　我預(yù)測(cè)，2018 年我們將需要進(jìn)行更多工作以確保遵守《全球數(shù)據(jù)保護(hù)條例》（GDPR），并處理更多機(jī)器學(xué)習(xí)系統(tǒng)帶來(lái)的“隱藏”技術(shù)“債務(wù)”。GDPR 作為一項(xiàng)歐盟法規(guī)具有全球影響力，所有數(shù)據(jù)科學(xué)家應(yīng)該充分意識(shí)到其將會(huì)對(duì)他們的工作產(chǎn)生什么影響。根據(jù) Google NIPS'16 論文，數(shù)據(jù)依賴(lài)性的代價(jià)高昂，而且隨著企業(yè)創(chuàng)建復(fù)雜的數(shù)據(jù)驅(qū)動(dòng)模型，他們將不得不仔細(xì)考慮如何解決這一成本問(wèn)題。

 

 

　　深度學(xué)習(xí)和集成建模方法在 2017 年繼續(xù)顯示出其與其他機(jī)器學(xué)習(xí)工具相比的價(jià)值和優(yōu)勢(shì)，特別是深度學(xué)習(xí)在各個(gè)領(lǐng)域和行業(yè)得到了更廣泛的應(yīng)用。

 

　　至于 2018 年的趨勢(shì)，深度學(xué)習(xí)可能會(huì)被用來(lái)從原始輸入中生成新的功能和新的概念，并取代手動(dòng)創(chuàng)建或設(shè)計(jì)新變量的需求。深度網(wǎng)絡(luò)在檢測(cè)數(shù)據(jù)的特征和結(jié)構(gòu)方面是非常強(qiáng)大的，數(shù)據(jù)科學(xué)家也認(rèn)識(shí)到無(wú)監(jiān)督深度學(xué)習(xí)在這方面的價(jià)值。

 

　　有效的異常檢測(cè)可能未來(lái)短期內(nèi)的重點(diǎn)。在許多行業(yè)中，數(shù)據(jù)科學(xué)工作的重點(diǎn)是異常事件和其他類(lèi)型的罕見(jiàn)事件：入侵檢測(cè)、財(cái)務(wù)欺詐檢測(cè)、欺詐、浪費(fèi)、醫(yī)療保健中的濫用和錯(cuò)誤，以及設(shè)備故障等等。檢測(cè)這些罕見(jiàn)事件使得公司在領(lǐng)域競(jìng)爭(zhēng)中保持優(yōu)勢(shì)，了解這些罕見(jiàn)事件的演變本質(zhì)將是這一方面的挑戰(zhàn)。

 

 

　　雖然沒(méi)有 AlphaGo 或者翻轉(zhuǎn)機(jī)器人那樣華麗和引人注目，2017 年最讓我最興奮的是深度學(xué)習(xí)框架變得更加用戶(hù)友好且易于訪問(wèn)。PyTorch（今年發(fā)布）對(duì)任何了解 Python 的人都很友好（主要是由于動(dòng)態(tài)計(jì)算和 OOP 設(shè)計(jì)）。TensorFlow 也正向著這個(gè)方向發(fā)展，將 Keras 納入其核心代碼庫(kù)，并發(fā)布動(dòng)態(tài)執(zhí)行。編碼人員使用深度學(xué)習(xí)的壁壘變得越來(lái)越低，我預(yù)計(jì) 2018 年，深度學(xué)習(xí)對(duì)于開(kāi)發(fā)者的可用性將繼續(xù)增加。

 

　　第二個(gè)趨勢(shì)是專(zhuān)制政府將利用人工智能監(jiān)管公民，這已引起媒體廣泛報(bào)道的話(huà)題。隱私威脅并不是再 2017 年才出現(xiàn)，但直到最近才開(kāi)始受到廣泛的關(guān)注。利用深度學(xué)習(xí)來(lái)識(shí)別戴著圍巾和帽子的示威者，或者通過(guò)圖片來(lái)識(shí)別某人的性取向的相關(guān)技術(shù)發(fā)展，使得今年更多的媒體關(guān)注 AI 隱私風(fēng)險(xiǎn)。希望在 2018 年，我們的關(guān)注點(diǎn)可以從 Elon Musk 對(duì)邪惡超級(jí)智力的恐懼?jǐn)U展開(kāi)來(lái)，開(kāi)始重視監(jiān)視、隱私、性別歧視和種族主義等論題。

 

　　對(duì)于自動(dòng)駕駛汽車(chē)和會(huì)話(huà)數(shù)字助理領(lǐng)域來(lái)說(shuō)，2017 年是一個(gè)大年。這兩個(gè)應(yīng)用程序?qū)⒖苹眯≌f(shuō)的情節(jié)帶進(jìn)事實(shí)。

 

　　但今年機(jī)器學(xué)習(xí)和人工智能最重要的發(fā)展集中在道德、問(wèn)責(zé)和可解釋性方面。Elon Musk 以他關(guān)于人工智能觸發(fā)世界大戰(zhàn)的警告引發(fā)了輿論熱議， Oren Etzioni 和 Rodney Brooks 等人都對(duì)他的觀點(diǎn)認(rèn)真進(jìn)行反駁。盡管如此，我們還是面臨著機(jī)器學(xué)習(xí)模式偏差可能導(dǎo)致危險(xiǎn)，如 word2vec 中的性別歧視，算法刑事判決中的種族主義，以及故意操縱社交媒體 feed 的評(píng)分模型。這些問(wèn)題都不是新出現(xiàn)的問(wèn)題，只是機(jī)器學(xué)習(xí)，特別是深度學(xué)習(xí)的采用，將這些問(wèn)題推向大眾。

 

　　我們最終將看到可解釋 AI 與成為一門(mén)學(xué)科，匯集學(xué)者、業(yè)界從業(yè)者和政策制定者的智慧。