一、AIGC引發(fā)內(nèi)容生成范式革命，云端算法向大模型多模態(tài)演進(jìn)

 

　　人工智能落地應(yīng)用不斷增加，AIGC引發(fā)范式革命

 

　　云端推理占比逐步提升，AI落地應(yīng)用數(shù)量增加。隨著數(shù)字經(jīng)濟(jì)、元宇宙等概念逐漸興起，各行業(yè)對人工智能開發(fā)的需求日益提升，人工智能進(jìn)入大規(guī)模落地應(yīng)用的關(guān)鍵時期。2022年在云端部署的算力里，推理占算力已經(jīng)達(dá)到了58.5%，訓(xùn)練占算力只有41.5%，預(yù)計到2026年，推理占到62.2%，訓(xùn)練占37.8%。一般來講，應(yīng)用完成推理之后就可以進(jìn)行部署，而云端推理占比逐步提升說明，AI落地應(yīng)用數(shù)量正在不斷增加，人工智能模型將逐步進(jìn)入廣泛投產(chǎn)模式。

 

　　AIGC是人工智能成熟度的分水嶺，引發(fā)范式革命。AI模型可大致分為決策式AI和生成式AI兩類，決策式AI根據(jù)已有數(shù)據(jù)進(jìn)行分析、判斷、預(yù)測，已經(jīng)被廣泛應(yīng)用；生成式AI學(xué)習(xí)歸納已有數(shù)據(jù)后進(jìn)行演繹，基于歷史進(jìn)行模仿式、縫合式創(chuàng)作，生成了全新的內(nèi)容，也能解決判別問題。從決策到生成，AI技術(shù)與應(yīng)用迎來跨越發(fā)展。內(nèi)容生產(chǎn)模式從專業(yè)生成內(nèi)容（PGC）和用戶生成內(nèi)容（UGC）逐漸過渡向AIGC階段，標(biāo)志著人類第二次腦力效率的飛躍。

 

　　ChatGPT是AIGC的開山之作，成為人工智能里程碑式產(chǎn)品

 

　　ChatGPT是OpenAI推出的自然語言處理類（NLP）AIGC應(yīng)用。Chatgpt橫空出世，成為AIGC的開山之作。ChatGPT是美國OpenAI研發(fā)的聊天機(jī)器人程序，于2022年11月30日發(fā)布，是一款人工智能技術(shù)驅(qū)動的自然語言處理工具，能夠通過理解和學(xué)習(xí)人類的語言來進(jìn)行對話，還能根據(jù)聊天的上下文進(jìn)行互動，甚至能完成撰寫郵件、視頻腳本、文案、翻譯、代碼，寫論文等任務(wù)。

 

　　ChatGPT成為人工智能技術(shù)在快速發(fā)展過程中的里程碑式產(chǎn)品。ChatGPT一經(jīng)推出便快速獲得了全球用戶前所未有的廣泛參與與認(rèn)可，推出兩個月后月活躍用戶規(guī)模達(dá)到1億人，遠(yuǎn)超過Facebook、抖音等成為了過去以來增長速度最快的消費者應(yīng)用程序。ChatGPT被視為標(biāo)志性人工智能生產(chǎn)力工具，甚至被視為第四次工業(yè)革命開始的標(biāo)志。

 

　　GPT架構(gòu)快速迭代，參數(shù)量與訓(xùn)練數(shù)據(jù)量提升帶來性能飛躍

 

　　ChatGPT是基于GPT架構(gòu)開發(fā)的對話AI模型，參數(shù)量與訓(xùn)練數(shù)據(jù)量的提升帶來性能飛躍。OpenAI早在2018年就已經(jīng)推出第一代生成式預(yù)訓(xùn)練語言模型GPT（GenerativePre-trainedTransformer），可用于生成文章、代碼、機(jī)器翻譯、問答等各類內(nèi)容，此后GPT模型快速迭代，并且伴隨著參數(shù)量的爆炸式增長，從GPT到GPT-3，參數(shù)量達(dá)到了1750億，增長了近1500倍，預(yù)訓(xùn)練數(shù)據(jù)量更是從5GB提升到了45TB，2023年3月推出的多模態(tài)大模型GPT-4參數(shù)量甚至預(yù)測達(dá)到100萬億。而隨著參數(shù)量和預(yù)訓(xùn)練數(shù)據(jù)量的提升，模型的性能實現(xiàn)了飛躍式提升。

 

　　GPT-3.5采用海量參數(shù)預(yù)訓(xùn)練，大模型成為AI發(fā)展新范式

 

　　ChatGPT是基于GPT-3.5微調(diào)得到的大型語言模型。GPT-3.5采用深度學(xué)習(xí)transformer模型，對大規(guī)模數(shù)據(jù)進(jìn)行預(yù)訓(xùn)練，相比于一般的語言模型，參數(shù)量大幅提升至1750億，所需要的算力呈指數(shù)級增長。根據(jù)OpenAI，GPT-3.5在AzureAI超算基礎(chǔ)設(shè)施（由V100GPU組成的高寬帶集群）上進(jìn)行訓(xùn)練，總算力消耗約3640PF-days(即每秒一千萬億次計算，運行3640個整日)。

 

　　大模型訓(xùn)練性能突出，各大科技廠商積極布局。預(yù)訓(xùn)練大模型基于“預(yù)訓(xùn)練+精調(diào)”等新開發(fā)范式具有良好的通用性和泛化性，可通過零樣本、小樣本學(xué)習(xí)獲得領(lǐng)先效果，大幅加速人工智能大規(guī)模產(chǎn)業(yè)化進(jìn)程。自2020年起，中國的大模型數(shù)量驟增，僅2020年到2021年，中國大模型數(shù)量就從2個增至21個，和美國量級同等，大幅領(lǐng)先于其他國家?？梢灶A(yù)見，以谷歌的BERT、OpenAI的GPT和百度的文心一言為代表的大模型，未來將成為智能化升級中可大規(guī)模復(fù)用的重要基礎(chǔ)設(shè)施。

 

　　GPT-4性能升級，多模態(tài)加速邁向通用人工智能

 

　　多模態(tài)大模型GPT-4震撼發(fā)布，性能實現(xiàn)大幅提升。3月15日，GPT-4正式發(fā)布，多模態(tài)大模型進(jìn)化更進(jìn)一步，其不僅在語言處理能力上提高，如文字輸入限制提升至2.5萬字，并能夠生成歌詞、創(chuàng)意文本、實現(xiàn)風(fēng)格變化，還具備對圖像的理解和分析能力，能基于圖片進(jìn)行總結(jié)和回答問題。在各種專業(yè)和學(xué)術(shù)基準(zhǔn)測試中已做到人類水平的表現(xiàn)，如SAT拿下700分，GRE幾乎滿分，模擬律師考試GPT4分?jǐn)?shù)占前10%，GPT-3僅為倒數(shù)10%。GPT-4的出現(xiàn)標(biāo)志著當(dāng)前已經(jīng)從語言模型突破走向多模態(tài)模型，應(yīng)用前景廣闊。

 

　　多模態(tài)大模型大勢所趨，應(yīng)用場景極大豐富。多模態(tài)大模型可整合圖像、語音、文本等輸入輸出方式，實現(xiàn)對多種類型和模態(tài)數(shù)據(jù)的學(xué)習(xí)、分析及生成，有望極大豐富人機(jī)交互場景?？梢钥吹?，多模態(tài)大模型將充分發(fā)揮人工智能創(chuàng)造價值的潛力，賦能各行各業(yè)實現(xiàn)降本增效，甚至加速邁向通用人工智能的步伐。

 

　　二、硬件基礎(chǔ)設(shè)施為發(fā)展基石，算力芯片等環(huán)節(jié)核心受益

 

　　AI要求大規(guī)模智能算力，硬件基礎(chǔ)設(shè)施成為發(fā)展基石

 

　　以算力芯片為核心的硬件基礎(chǔ)設(shè)施是AI發(fā)展的基石。算力芯片等硬件基礎(chǔ)設(shè)施是處理數(shù)據(jù)“燃料”的“發(fā)動機(jī)”，只有達(dá)到一定水平的算力性能才能實現(xiàn)人工智能的訓(xùn)練和推斷以及存儲、傳輸?shù)认嚓P(guān)配套功能。人工智能的云端訓(xùn)練和推斷計算主要基于AI服務(wù)器，對算力/存力/運力/散熱性能要求更高，帶動算力芯片、配套硬件、機(jī)箱等設(shè)施不斷升級。

 

　　中國智能算力規(guī)模正在高速增長，算力芯片等硬件基礎(chǔ)設(shè)施需求旺盛。根據(jù)IDC數(shù)據(jù)，2021年中國智能算力規(guī)模達(dá)155.2每秒百億億次浮點運算（EFLOPS），2022年智能算力規(guī)模將達(dá)到268.0EFLOPS，預(yù)計到2026年智能算力規(guī)模將進(jìn)入每秒十萬億億次浮點計算（ZFLOPS）級別，達(dá)到1,271.4EFLOPS，2021-2026年復(fù)合增長率達(dá)52.3%。預(yù)計中國人工智能支出中硬件占比將保持最大，未來5年將一直保持65%左右的份額?？春肁I大模型訓(xùn)練及推理需求創(chuàng)造的算力芯片等硬件基礎(chǔ)設(shè)施的增量市場空間。

 

　　算力：CPU不可或缺，CPU+xPU異構(gòu)方案成為大算力場景標(biāo)配

 

　　CPU的性能提升已遭遇瓶頸。過去40年間，在指令集簡化、核心數(shù)增加、制程微縮、架構(gòu)改進(jìn)等技術(shù)變革的推動下，CPU的性能已經(jīng)提升接近5萬倍，但不可避免的邊際效應(yīng)遞減。在上世紀(jì)90年代，CPU性能每年提升52%，性能翻倍只需要1.5年。而從2015年之后，CPU性能每年提升只有3%，需要20年才能性能翻倍。

 

　　CPU在現(xiàn)代計算系統(tǒng)中仍不可或缺，CPU+xPU的異構(gòu)方案成為大算力場景標(biāo)配。CPU受制成本功耗難以匹配AI對算力需求的高速增長，CPU+AI芯片的異構(gòu)方案應(yīng)運而生，AI芯片類型包括GPU、FPGA和NPU等。其中，CPU是圖靈完備的，可以自主運行，而GPU、FPGA等芯片都是非圖靈完備的，都是作為CPU的加速器而存在，因此其他處理芯片的并行計算系統(tǒng)均為CPU+xPU的異構(gòu)并行。

 

　　算力：GPU并行計算優(yōu)勢明顯，充分受益于AI算力需求增長

 

　　GPU削弱控制能力，布局更多計算單元以加強算力。從計算資源占比角度看，CPU包含大量的控制單元和緩存單元，實際運算單元占比較小。GPU則使用大量的運算單元，少量的控制單元和緩存單元。GPU的架構(gòu)使其能夠進(jìn)行規(guī)?；⑿杏嬎?，尤其適合邏輯簡單，運算量大的任務(wù)。

 

　　CPU+GPU是目前最流行的異構(gòu)計算系統(tǒng)，在HPC、圖形圖像處理以及AI訓(xùn)練/推理等場景得到廣泛應(yīng)用。根據(jù)IDC數(shù)據(jù)，2021年中國AI芯片市場中，GPU市占率近90%。

 

　　算力：NPU在特定場景下的性能、效率優(yōu)勢明顯，推理端應(yīng)用潛力巨大

 

　　NPU在人工智能算法上具有較高的運行效率。在CPU與GPU合作時，CPU負(fù)責(zé)神經(jīng)網(wǎng)絡(luò)模型的構(gòu)建和數(shù)據(jù)流的傳遞，GPU只是單純的并行矩陣乘法和加法運算。在CPU與NPU合作時，CPU將編譯好的神經(jīng)網(wǎng)絡(luò)模型文件和權(quán)重文件交由NPU加載，完成硬件編程，NPU為每層神經(jīng)元計算結(jié)果不用輸出到主內(nèi)存，而是按照神經(jīng)網(wǎng)絡(luò)的連接傳遞到下層神經(jīng)元繼續(xù)計算，因此其在運算性能和功耗上都有很大的提升。

 

　　NPU為特定要求而定制，在功耗、體積方面具有優(yōu)勢，在推理端應(yīng)用潛力巨大。NPU作為專用定制芯片ASIC的一種，是為實現(xiàn)特定要求而定制的芯片，芯片設(shè)計邏輯更為簡單。除了不能擴(kuò)展以外，在功耗、可靠性、體積方面都有優(yōu)勢，尤其在高性能、低功耗的移動端。未來隨著人工智能推理端的發(fā)展，NPU應(yīng)用潛力巨大。

 

　　三、國產(chǎn)廠商迎來發(fā)展窗口期，建議關(guān)注各環(huán)節(jié)龍頭廠商

 

　　英偉達(dá)、AMD供應(yīng)受限，國產(chǎn)算力芯片廠商迎來窗口期

 

　　英偉達(dá)、AMD對華供應(yīng)高端GPU芯片受限。美國對華半導(dǎo)體管制已經(jīng)從最初針對某些公司擴(kuò)大到對半導(dǎo)體整個行業(yè)的全面限制。2022年8月，英偉達(dá)被美國政府要求其停止向中國出口兩款用于人工智能的頂級計算芯片，其峰值性能和芯片到芯片的I/O性能等于或大于大致相當(dāng)于A100的閾值，即A100和H100兩款芯片都將受到影響。AMD也同樣被要求禁止將其MI100、MI200系列人工智能芯片出口到中國。當(dāng)前2023年3月1日的延緩期已過，后續(xù)將無法向大陸市場出貨。

 

　　國產(chǎn)算力芯片迎來國產(chǎn)替代窗口期。美國對中國半導(dǎo)體產(chǎn)業(yè)發(fā)展持續(xù)打壓背景下，英偉達(dá)、AMD斷供進(jìn)一步激發(fā)算力芯片國產(chǎn)化需求。當(dāng)前已經(jīng)涌現(xiàn)出一大批國產(chǎn)算力芯片廠商，寒武紀(jì)、龍芯中科相繼推出自研GPU，海光信息的DCU（GPGPU）也逐漸打出知名度，其他配套環(huán)節(jié)的國產(chǎn)化進(jìn)程也正在加速推進(jìn)。

 

　　寒武紀(jì)：國內(nèi)人工智能芯片領(lǐng)軍者

 

　　寒武紀(jì)專注AI領(lǐng)域核心處理器，思元系列智能加速卡持續(xù)迭代。寒武紀(jì)成立于2016年，致力于打造人工智能領(lǐng)域的核心處理器芯片。寒武紀(jì)目前已推出了思元系列智能加速卡，第三代產(chǎn)品思元370基于7nm制程工藝，是寒武紀(jì)首款采用chiplet技術(shù)的AI芯片，最高算力達(dá)到256TOPS（INT8）。思元370還搭載了MLU-link™多芯互聯(lián)技術(shù)，互聯(lián)帶寬相比PCIe4.0提升明顯。

 

　　思元590采用全新架構(gòu)，性能相比在售旗艦有大幅提升。在2022年9月1日舉辦的WAIC上，寒武紀(jì)陳天石博士介紹了全新一代云端智能訓(xùn)練芯片思元590，思元590采用MLUarch05全新架構(gòu)，實測訓(xùn)練性能較在售旗艦產(chǎn)品有了大幅提升，能提供更大的內(nèi)存容量和更高的內(nèi)存帶寬，其IO和片間互聯(lián)接口也較上代實現(xiàn)大幅升級。

 

　　寒武紀(jì)：持續(xù)完善軟件生態(tài)，強化核心競爭力

 

　　寒武紀(jì)重視自身軟硬件生態(tài)建設(shè)，為云邊端全系列智能芯片與處理器產(chǎn)品提供統(tǒng)一的平臺級基礎(chǔ)系統(tǒng)軟件。寒武紀(jì)的基礎(chǔ)系統(tǒng)軟件平臺主要包括訓(xùn)練軟件平臺和推理軟件平臺。訓(xùn)練軟件平臺支持豐富的圖形圖像、語音、推薦以及訓(xùn)練任務(wù)，同時提供模型快速遷移方法，幫助用戶快速完成現(xiàn)有業(yè)務(wù)模型的遷移。對于推理軟件平臺，寒武紀(jì)新增推理加速引擎MagicMind，在MLU、GPU、CPU訓(xùn)練好的算法模型上，借助MagicMind，用戶僅需投入極少的開發(fā)成本，即可將推理業(yè)務(wù)部署到寒武紀(jì)全系列產(chǎn)品上。

 

　　寒武紀(jì)：與產(chǎn)業(yè)端強強聯(lián)合，促進(jìn)生態(tài)融合應(yīng)用

 

　　百度飛槳深度學(xué)習(xí)平臺正加強與主流人工智能芯片廠商聯(lián)合建設(shè)生態(tài)。百度飛槳集深度學(xué)習(xí)核心框架、基礎(chǔ)模型庫、端到端開發(fā)套件、工具組件和服務(wù)平臺于一體，包含完整的開發(fā)、訓(xùn)練、推理的端到端深度學(xué)習(xí)AI模型開發(fā)工具鏈。其中，PaddleLite是一個可以在邊緣端、移動端和部分服務(wù)器端等場景下用于AI模型部署的高性能輕量化推理引擎。典型應(yīng)用場景包括：智能閘機(jī)、智能家居、自動駕駛、AR/VR手機(jī)應(yīng)用等。隨著在穩(wěn)定性、兼容性和成熟度等方面不斷升級，百度飛槳越來越重視與硬件廠商，尤其是與主流人工智能芯片廠商聯(lián)合進(jìn)行生態(tài)建設(shè)。

 

　　海光信息：深算系列GPGPU提供高性能算力，升級迭代穩(wěn)步推進(jìn)

 

　　海光DCU提供高性能算力。海光DCU也屬于GPGPU的一種，其構(gòu)成與CPU類似，結(jié)構(gòu)邏輯相對CPU簡單，但計算單元數(shù)量較多。海光DCU的主要功能模塊包括計算單元、片上網(wǎng)絡(luò)、高速緩存、各類接口控制器等。海光DCU可為應(yīng)用程序提供高性能、高能效比的算力，支撐高復(fù)雜度和高吞吐量的數(shù)據(jù)處理任務(wù)。一代DCU已實現(xiàn)規(guī)?；N售，二代升級規(guī)劃穩(wěn)步推進(jìn)。深算一號DCU產(chǎn)品目前已實現(xiàn)商業(yè)化應(yīng)用。2020年1月，公司啟動了第二代DCU深算二號的產(chǎn)品研發(fā)工作，研發(fā)工作進(jìn)展正常。

 

　　海光信息：類“CUDA”環(huán)境降低遷移成本，軟硬件生態(tài)豐富

 

　　海光DCU兼容類“CUDA”環(huán)境，方便CUDA用戶以較低代價快速遷移。海光DCU協(xié)處理器全面兼容ROCmGPU計算生態(tài)，由于ROCm和CUDA在生態(tài)、編程環(huán)境等方面具有高度的相似性，理論上講，市場上規(guī)模最大的GPGPU開發(fā)群體——CUDA用戶可用較低代價快速遷移至ROCm平臺，有利于海光DCU的市場推廣。同時，由于ROCm生態(tài)由AMD提出，AMD對ROCm生態(tài)的建設(shè)與推廣也將有助于開發(fā)者熟悉海光DCU。海光DCU適配性好，軟硬件生態(tài)豐富。海光DCU協(xié)處理器能夠較好地適配國際主流商業(yè)計算軟件和人工智能軟件，軟硬件生態(tài)豐富，可廣泛應(yīng)用于大數(shù)據(jù)處理、人工智能、商業(yè)計算等計算密集類應(yīng)用領(lǐng)域，主要部署在服務(wù)器集群或數(shù)據(jù)中心。

 

　　龍芯中科：加碼GPU自研，有望與CPU形成協(xié)同效益

 

　　公司自研GPU已取得實質(zhì)進(jìn)展，未來將持續(xù)增長在AI領(lǐng)域的核心競爭力。公司在上市募投項目中規(guī)劃了高性能通用圖形處理器芯片及系統(tǒng)研發(fā)項目，總投資金額10.5億元。公司已在自研GPU上取得了實質(zhì)進(jìn)展。橋片7A2000已于2022年正式發(fā)布，內(nèi)部集成了自研統(tǒng)一渲染架構(gòu)的GPU核，可形成獨顯方案，極大減低系統(tǒng)成本；通用SoC芯片2K2000于2023年1月流片成功，集成了龍芯自主研發(fā)的LG120GPU核，進(jìn)一步優(yōu)化了圖形算法和性能。公司正在研發(fā)具有高通用性、高可擴(kuò)展性的GPGPU芯片產(chǎn)品及軟硬件體系，將加速對象從單純的圖形渲染擴(kuò)展到科學(xué)計算領(lǐng)域，提升算力密度同時降低單位算力功耗，并在此基礎(chǔ)上有效支持視覺、語音、自然語言及傳統(tǒng)機(jī)器學(xué)習(xí)等不同類型的人工智能算法。項目建設(shè)完成后，將與公司的CPU產(chǎn)品形成協(xié)同效應(yīng)，進(jìn)一步提升公司的核心競爭力。