2023年國家網(wǎng)絡安全宣傳周活動正火熱進行中。其間舉行的網(wǎng)絡安全技術高峰論壇上，中國人工智能產(chǎn)業(yè)如何“走好走穩(wěn)”等話題引發(fā)討論。
人工智能大模型“百花齊放”
北京百川智能科技有限公司創(chuàng)始人王小川表示，今年以來，中國人工智能產(chǎn)業(yè)發(fā)展迅猛，包括百川在內的多家人工智能大模型產(chǎn)品陸續(xù)上線。人工智能技術，特別是大模型技術不僅將重塑現(xiàn)有產(chǎn)業(yè)，更將創(chuàng)造全新價值。
上海聯(lián)影智能醫(yī)療科技有限公司研發(fā)副總經(jīng)理沈振輝認為，當前，人工智能大模型正掀起新一輪智能革命浪潮，大型語言模型在語言理解、生成、知識推理等層面正展現(xiàn)出令人驚艷的能力，為其在細分垂直領域的發(fā)展提供了巨大想象空間。
騰訊云副總裁吳運聲指出，中國人工智能大模型“百花齊放”，產(chǎn)業(yè)落地已過“嘗鮮期”，產(chǎn)業(yè)落地實效成為大模型價值的重要評估維度。
風險與瓶頸
粵港澳大灣區(qū)數(shù)字經(jīng)濟研究院創(chuàng)院理事長沈向洋表示，生成式人工智能帶來的安全挑戰(zhàn)巨大。如果說搜索引擎是一個有限責任公司的話，人工智能大模型產(chǎn)品就是一個無限責任公司，因為前者輸出的結果都是有記錄，出了問題也是可溯源的；后者輸出的內容都是自己生成的，容易出現(xiàn)所謂“一本正經(jīng)胡說八道”等風險問題。
北京大學計算機學院教授、北京大學人工智能研究院副院長黃鐵軍則提到數(shù)據(jù)的重要性。黃鐵軍說，如果“喂”給大模型的數(shù)據(jù)質量差甚至是錯誤的，將嚴重影響大模型的輸出結果。對于中文大模型來說，存在一個發(fā)展瓶頸：國際開源數(shù)據(jù)集的中文內容少。建設高質量中文數(shù)據(jù)集是中國生成式人工智能發(fā)展的基本前提。
呼吁構建負責任、可信賴的人工智能治理體系
清華大學人工智能研究院副院長朱軍認為，面對挑戰(zhàn)，中國已經(jīng)開展了相關探索，加強技術理論研究，持續(xù)構建第三代人工智能，加強技術手段建設，提升訓練數(shù)據(jù)質量和安全評測能力，并在人工智能安全靶場等方面取得實踐成果。
黃鐵軍建議，各方共建大規(guī)模高質量中文數(shù)據(jù)庫，促進中文網(wǎng)頁數(shù)據(jù)匯聚、處理及開放，相關政府部門出臺書籍、期刊論文等版權數(shù)據(jù)用于大模型訓練的相關政策及規(guī)范，盤活中國高質量中文數(shù)據(jù)資源，加快數(shù)據(jù)處理相關標準、技術、工具和支撐平臺研發(fā)，提高數(shù)據(jù)處理效率。
華為云首席技術官(CTO)張宇昕表示，當前人工智能產(chǎn)業(yè)發(fā)展火熱，但人工智能技術帶來的安全挑戰(zhàn)也非常之高。希望各方共同努力構建一個負責任、可信賴的人工智能治理體系：一是打造多角色協(xié)同的治理體系，二是實現(xiàn)基于應用場景風險的分級治理，三是建立卓越的標準和測試認證能力，四是構建包容的國際多邊治理機制。(完)
