如今,人工智能在金融各大場景中的應用不斷加深,為金融行業(yè)帶來諸多改變。作為早已在人工智能領域布局的頭部金融科技企業(yè),度小滿近年來不斷攻克人工智能技術方面的難題,積累了豐厚的技術底蘊。日前,其自主研發(fā)的軒轅(XuanYuan)預訓練模型在CLUE1.1分類任務中奪得首位,展現(xiàn)了度小滿在人工智能技術方面的雄厚實力。

度小滿軒轅預訓練模型CLUE1.1分類任務中“力壓群雄”排名首位
自然語言處理是人工智能皇冠上的明珠,近日,度小滿AI-Lab讓人類摘得明珠的步伐又前進了一步。據(jù)中文語言理解領域的權威測評基準官網(wǎng)公布,度小滿AI-Lab研發(fā)的軒轅(XuanYuan)預訓練模型在CLUE1.1分類任務中“力壓群雄”獲得了排名第一的好成績。距離人類“表現(xiàn)”僅差3.38分!

CLUE是中文語言理解領域最具權威性的測評基準之一,涵蓋了文本相似度、分類、閱讀理解共10項語義分析和理解類子任務。其中,分類任務需要解決6個問題,例如傳統(tǒng)圖像分類,文本匹配,關鍵詞分類等等,能夠全方面衡量模型性能。該榜單競爭激烈,幾乎是業(yè)內(nèi)兵家必爭之地,例如快手搜索、優(yōu)圖實驗室&騰訊云等等研究機構也都提交了比賽方案。
據(jù)悉,位居榜首的“軒轅”是基于Transformer架構的預訓練語言模型,涵蓋了金融、新聞、百科、網(wǎng)頁等多領域大規(guī)模數(shù)據(jù)。因此,該模型“內(nèi)含”的數(shù)據(jù)更全面,更豐富,面向的領域更加廣泛。
度小滿加強人工智能技術研究
預訓練模型是一種遷移學習的應用,可以利用幾乎無限的文本,學習輸入句子的每一個成員的上下文相關的表示,它隱式地學習到了通用的語法語義知識。換句話說,預訓練模型把通用人類的語言知識先學會,然后再代入到某個具體任務。它可以將從開放領域學到的知識遷移到下游任務,以改善低資源任務;還可以使自然語言處理由原來的手工調參、依靠ML專家的階段,進入到可以大規(guī)模、可復制的大工業(yè)施展的階段。
目前,除了預訓練,度小滿AI-Lab在文本分類、信息抽取和技術資源等方向亦有布局。在戰(zhàn)略上會有兩點側重:首先加強自身的數(shù)據(jù)生態(tài)建設,合法合規(guī)使用用戶數(shù)據(jù),解決數(shù)據(jù)孤島;其次通過產(chǎn)學研相結合,布局前沿技術,落地金融場景業(yè)務。
據(jù)了解,度小滿已與北京大學光華管理學院成立了“金融科技聯(lián)合實驗室”,和西安交大成立了“西安交通大學-度小滿金融人工智能聯(lián)合研究中心”,并與中國科學院自動化研究所共建博士后工作站,共同開展人工智能及相關領域的博士后聯(lián)合招收培養(yǎng)。
度小滿始終關注金融行業(yè)發(fā)展,注重人工智能等各種新興技術的研發(fā)和創(chuàng)新應用,持續(xù)提升自身的核心技術競爭實力,同時為行業(yè)發(fā)展不斷貢獻力量。相信在度小滿等金融科技企業(yè)的共同助力下,新興技術將更加深入運用到金融服務各大領域,持續(xù)推動行業(yè)創(chuàng)新變革。