在互聯(lián)網(wǎng)行業(yè)迅猛發(fā)展的當(dāng)下，加強(qiáng)多模態(tài)、預(yù)訓(xùn)練排序等新興技術(shù)研究工作，對(duì)于推動(dòng)互聯(lián)網(wǎng)建設(shè)發(fā)展至關(guān)重要。多年來(lái)，度小滿(mǎn)積極開(kāi)展多模態(tài)、預(yù)訓(xùn)練排序等創(chuàng)新技術(shù)研究，不斷提升技術(shù)實(shí)力，其圍繞多模態(tài)、預(yù)訓(xùn)練排序撰寫(xiě)的兩篇論文入選了國(guó)際頂級(jí)會(huì)議，表明度小滿(mǎn)在人工智能領(lǐng)域再獲新進(jìn)展。

 

　　據(jù)悉，由度小滿(mǎn)數(shù)據(jù)智能應(yīng)用部AI-Lab撰寫(xiě)的兩篇論文分別入選了ACMMM和CIKM國(guó)際頂級(jí)會(huì)議。兩篇論文分別就多模態(tài)和預(yù)訓(xùn)練排序等多個(gè)熱門(mén)話(huà)題提出了新穎的算法，并在相關(guān)任務(wù)上達(dá)到了國(guó)際頂尖水平，獲得了審稿人的一致好評(píng)并最終錄用。這標(biāo)志著度小滿(mǎn)在自然語(yǔ)言處理和計(jì)算機(jī)視覺(jué)等人工智能前沿領(lǐng)域的研究得到了國(guó)際同行的認(rèn)可。

　　Transformer模型可有效提升度小滿(mǎn)視覺(jué)風(fēng)控方面的技術(shù)能力

 

　　其中，度小滿(mǎn)關(guān)于具有實(shí)體對(duì)齊網(wǎng)格的位置增強(qiáng)Transformer論文被ACMMM國(guó)際頂級(jí)會(huì)議錄用。該模型能夠整合目標(biāo)檢測(cè)、OCR以及基于Transformer的文本表示等多種方法的優(yōu)勢(shì)，增強(qiáng)算法對(duì)于圖像中場(chǎng)景信息的理解，更精準(zhǔn)的融合圖像與文本多模態(tài)的信息，進(jìn)一步助力證件識(shí)別、人臉與活體檢測(cè)等業(yè)務(wù)場(chǎng)景，提升度小滿(mǎn)在視覺(jué)風(fēng)控方面的技術(shù)能力。

 

　　以下為該論文簡(jiǎn)介：

 

　　許多圖像除了實(shí)際的物體和背景等信息外，通常還包含著很有價(jià)值的文本信息，這對(duì)于理解圖像場(chǎng)景是十分重要的。因此本文主要研究基于文本的視覺(jué)問(wèn)答任務(wù)，這項(xiàng)任務(wù)要求機(jī)器可以理解圖像場(chǎng)景并閱讀圖像中的文本來(lái)回答相應(yīng)的問(wèn)題。然而之前的大多數(shù)工作往往需要設(shè)計(jì)復(fù)雜的圖結(jié)構(gòu)和利用人工指定的特征來(lái)構(gòu)建圖像中視覺(jué)實(shí)體和文本之間的位置關(guān)系。為了直觀(guān)有效地解決這些問(wèn)題，我們提出了具有實(shí)體對(duì)齊網(wǎng)格的位置增強(qiáng)Transformer。

 

　　動(dòng)態(tài)多粒度排序模型為度小滿(mǎn)業(yè)務(wù)穩(wěn)健發(fā)展提供保障

 

　　度小滿(mǎn)另一篇基于BERT的動(dòng)態(tài)多粒度排序模型的論文被CIKM國(guó)際頂級(jí)會(huì)議錄用。該模型有效地提升了長(zhǎng)文本理解與排序任務(wù)的性能，特別是其中所用到的預(yù)訓(xùn)練語(yǔ)言模型已經(jīng)成為度小滿(mǎn)在自然語(yǔ)言處理方面的基礎(chǔ)架構(gòu)，在獲客、信貸等業(yè)務(wù)場(chǎng)景被廣泛地使用，為業(yè)務(wù)模型提供了更加豐富的文本表示和精準(zhǔn)的文本特征，在保障業(yè)務(wù)穩(wěn)健發(fā)展中起到了十分重要的作用。

 

　　以下為該論文簡(jiǎn)介：

 

　　近年來(lái)，預(yù)訓(xùn)練的語(yǔ)言模型廣泛應(yīng)用于文本的檢索排序任務(wù)中。然而，在真實(shí)場(chǎng)景中，用戶(hù)的行為往往受到選擇或曝光偏差的影響，這可能會(huì)導(dǎo)致錯(cuò)誤的標(biāo)簽進(jìn)而引入額外噪聲。而對(duì)于不同候選文檔，以往的訓(xùn)練優(yōu)化目標(biāo)通常使用單一粒度和靜態(tài)權(quán)重。這使得排序模型的性能更容易受到上述問(wèn)題的影響。因此，在本文中我們重點(diǎn)研究了基于BERT的文檔重排序任務(wù)，開(kāi)創(chuàng)性地提出了動(dòng)態(tài)多粒度學(xué)習(xí)方法。此外，該方法還同時(shí)考慮了文檔粒度和實(shí)例粒度來(lái)平衡候選文檔的相對(duì)關(guān)系和絕對(duì)分?jǐn)?shù)。

　　度小滿(mǎn)在多模態(tài)、預(yù)訓(xùn)練排序方面的研究取得優(yōu)異成績(jī)，為接下來(lái)布局前沿技術(shù)奠定了有利基礎(chǔ)。未來(lái)，多模態(tài)、預(yù)訓(xùn)練排序等創(chuàng)新技術(shù)仍將是金融行業(yè)技術(shù)焦點(diǎn)。在以度小滿(mǎn)為首的金融科技企業(yè)攜手助推下，多模態(tài)、預(yù)訓(xùn)練排序等新興技術(shù)將深入運(yùn)用到金融各大使用場(chǎng)景中，驅(qū)動(dòng)金融服務(wù)行業(yè)創(chuàng)新可持續(xù)發(fā)展。