每一次DeepMind發(fā)布一篇新論文，媒體都會瘋狂地報道。其中不乏許多讓人迷惑的術(shù)語。比如就有未來主義者這樣報道：
DeepMind開發(fā)了一個可以感知周圍事物的神經(jīng)網(wǎng)絡(luò)。
這不僅僅誤導(dǎo)人，還嚇跑了那些沒有接受過博士階段的學(xué)習的人。所以在這篇文章里，我打算用盡量簡單的語言來解釋這個新的神經(jīng)網(wǎng)絡(luò)架構(gòu)，這篇文章也要求一些神經(jīng)網(wǎng)絡(luò)方面的基礎(chǔ)知識。
什么是關(guān)聯(lián)推理？
簡單來說，關(guān)聯(lián)推理是去學(xué)習不同物體（想法）之間的聯(lián)系，這被認為是智能最為重要的特征。論文作者用了一個圖形示例來解釋：
從關(guān)聯(lián)問題的角度來看，上圖的模型需要檢查不同形狀、尺寸、顏色的物體，還能夠回答和多個物體相關(guān)的問題。
關(guān)聯(lián)網(wǎng)絡(luò)
作者提出了能夠抓住物體內(nèi)在聯(lián)系的神經(jīng)網(wǎng)絡(luò)（正如卷積神經(jīng)網(wǎng)絡(luò)能夠提取圖像的性質(zhì)）。他們提出了由下式定義的架構(gòu)：
公式解釋：
神經(jīng)網(wǎng)絡(luò)和函數(shù)
當我們在學(xué)習神經(jīng)網(wǎng)絡(luò)，做反向傳播之時很容易忘了，一個神經(jīng)網(wǎng)絡(luò)實際上只是一個簡單的數(shù)學(xué)函數(shù)！因此，方程（1）所描述的函數(shù)是一個神經(jīng)網(wǎng)絡(luò)！更準確的說，其中有兩個神經(jīng)網(wǎng)絡(luò)：
關(guān)聯(lián)網(wǎng)絡(luò)是靈活的
作者以一個模塊的形式提出了關(guān)聯(lián)神經(jīng)網(wǎng)絡(luò)。它可以接收被編碼了的物體并學(xué)習其中的關(guān)系。但更重要的是，關(guān)聯(lián)神經(jīng)網(wǎng)絡(luò)可以被嵌入于卷積神經(jīng)網(wǎng)絡(luò)（CNN），和以長短時記憶單元[Z1] （LSTM）為基礎(chǔ)的遞歸神經(jīng)網(wǎng)絡(luò)中。
卷積神經(jīng)網(wǎng)絡(luò)可以被用于從圖像中學(xué)習物體，這使其更易于被應(yīng)用。因為能在圖像中進行推理比在用戶指定的物體中進行推理明顯更有用。
伴隨著詞嵌入，長短時記憶單元（LSTM）可以被用于理解模型被問及的問題的含義。這是很有用的一個變革，因為模型現(xiàn)在可以接收英文句子而不是預(yù)先定義好的物體。
作者提出了結(jié)合關(guān)聯(lián)網(wǎng)絡(luò)，卷積神經(jīng)網(wǎng)絡(luò)和長短時記憶單元來構(gòu)建一個端到端的、能學(xué)習物體之間關(guān)聯(lián)的神經(jīng)網(wǎng)絡(luò)。
上圖解釋：
圖像經(jīng)過一個標準的卷積神經(jīng)網(wǎng)絡(luò)（CNN），從中提取出圖像的特征。關(guān)聯(lián)神經(jīng)網(wǎng)絡(luò)的輸入對象是網(wǎng)格中每一個點的特征向量。比如說其中一個對象是黃色的向量。
問題被傳入長短時記憶單元（LSTM）中，產(chǎn)出了一個關(guān)于問題的特征向量。也就是這個問題的點。
同時對方程（1）進行了一些修改，加入另一項使其變成：
在上面的公式中，注意到比起方程1多了一個q項。這個q是長短時記憶單元的最終狀態(tài)?，F(xiàn)在關(guān)聯(lián)性是條件于q的。
在此之后，神經(jīng)網(wǎng)絡(luò)輸出的對象和長短時記憶單元輸出的特征向量被用于訓(xùn)練關(guān)聯(lián)網(wǎng)絡(luò)。
基準
作者在幾個數(shù)據(jù)集中展示了該模型的效果。這里我們討論其中一個數(shù)據(jù)集（在我看來最顯著的一個）——CLEVR數(shù)據(jù)集。
作者指出他們的模型比其他方法在精確度上高很多。這是因為關(guān)聯(lián)網(wǎng)絡(luò)就是為學(xué)習關(guān)聯(lián)性而設(shè)計的。
相對于注意力堆模型僅僅75%的準確率，他們的模型達到了96%+的準確率。
結(jié)論
關(guān)聯(lián)網(wǎng)絡(luò)十分擅長高效地學(xué)習關(guān)聯(lián)性。同時靈活，可以結(jié)合卷積神經(jīng)網(wǎng)絡(luò)和長短時記憶來一起解決問題。
這篇博文意在破除由于大量論文發(fā)表導(dǎo)致人工智能已經(jīng)接管了一切的假象，并介紹當下最先進的算法是什么樣的。
