去年OpenAI開啟生成式人工智能浪潮，由大模型帶動的AI產(chǎn)業(yè)一路狂奔。行業(yè)快速發(fā)展過程中，如何讓它的行為跟人類的價值真實意圖、倫理原則相一致，這成為學術(shù)、政策、產(chǎn)業(yè)等領(lǐng)域多方關(guān)注的“價值對齊”問題。
10月26日，由騰訊研究院華東基地、騰訊優(yōu)圖實驗室主辦的第一期“智創(chuàng)滬聯(lián)”活動，在上海諾布中心正式舉辦?；顒右?ldquo;大模型價值對齊”為主題進行研討，深入探尋價值對齊問題的創(chuàng)新性解決方案與法律倫理治理，探討AI與人類價值間的平衡。多位來自AI領(lǐng)域前沿的學者、專家分享自己看法及研究成果。
人機合作走向現(xiàn)實，AI價值對齊不可自身
如何避免數(shù)據(jù)規(guī)模與算力不斷提升的AI大模型遭到濫用、生產(chǎn)有害內(nèi)容，已成為人工智能行業(yè)的核心議題之一。在此背景下，有效增強AI大模型安全與實用性的“AI價值對齊”也逐漸成為行業(yè)關(guān)注的焦點。
騰訊研究院秘書長張欽坤表示，價值對齊將成為AI產(chǎn)品的重要競爭力。因為，大模型價值對齊的實現(xiàn)，需要對齊技術(shù)（人類反饋強化學習、AI監(jiān)督等）、訓練數(shù)據(jù)干預、模型可解釋、對抗測試等多種技術(shù)和治理措施的結(jié)合，同時未來還需要著重考慮如何通過更多的社會參與來形成價值對齊的共識，以及如何使監(jiān)督、理解、設(shè)計AI模型的能力與模型本身的復雜性同步發(fā)展，以更好地對大模型進行有效的監(jiān)督。
“我們期待的是大語言模型可以和人類的價值、真實的意圖相一致，確保AI技術(shù)可以可靠和安全地服務(wù)于人，并且確保社會經(jīng)濟可以健康地增長。”在上海交通大學副教授劉鵬飛看來，隨著生成式人工智能實用性不斷增長，除了最基礎(chǔ)的性能優(yōu)化之外，價值對齊的重要性，也隨著AI大模型的快速迭代迅速提升。
上海交通大學教授閆宏秀則表示，技術(shù)的發(fā)展進步，始終遵循著消除風險、力求確定性的趨勢，作為應(yīng)對風險的有效方式，“信任”始終是人類的必選項。沒有信任，技術(shù)發(fā)展的停滯幾乎是必然的。讓人工智能走向可信、可控、可靠，讓人機合作走向現(xiàn)實，“AI價值對齊”正是其中不可或缺的一環(huán)。
讓AI價值對齊落地，多國用立法進行詮釋
多位嘉賓在論壇活動上表示，明確了技術(shù)路徑，如何將技術(shù)理論結(jié)合實際需求盡快落地，無疑是現(xiàn)階段“AI價值對齊”議題的發(fā)展重點。
上海人工智能實驗室治理研究中心研究員滕妍認為，想要加速“AI價值對齊”的發(fā)展，除了“基于人類反饋進行調(diào)整”之外，讓人工智能部分監(jiān)督，或者協(xié)調(diào)人類技術(shù)進行監(jiān)督，提供一些高質(zhì)量的反饋數(shù)據(jù)來提高價值對齊能力，是目前各國熱度很高的研究方向之一，包括OpenAI在內(nèi)都對這個領(lǐng)域投入過不少關(guān)注。
除了技術(shù)與倫理層面，在攸關(guān)社會現(xiàn)實運轉(zhuǎn)的法律層面，“AI價值對齊”同樣帶來了全新的挑戰(zhàn)，對此，同濟大學法學院助理教授朱悅表示，雖然目前“AI價值對齊”依舊處于基礎(chǔ)技術(shù)迭代的早期階段，在法律層面上做出定論為時尚早，但從各國政府和跨國企業(yè)的積極性來看，通過立法對“AI價值對齊”進行詮釋，并通過實踐來不斷完善，已經(jīng)是行業(yè)的大勢所趨。
圓桌討論環(huán)節(jié)，圍繞AI對齊的方法論、監(jiān)管實施等話題，上海復旦大學計算機系教授肖仰華、上海交通大學副教授張拳石、對外經(jīng)濟貿(mào)易大學法學院副教授許可、安遠AI資深研究經(jīng)理方亮、螞蟻集團全面風險管理部專家王炳浩、騰訊優(yōu)圖實驗室高級研究員李珂、騰訊研究院高級研究員曹建峰等與會嘉賓，從不同角度出發(fā)，深入交流意見，剖析并肯定了“AI價值對齊”對人工智能行業(yè)發(fā)展的重要意義。
據(jù)介紹，本期“智創(chuàng)滬聯(lián)——大模型價值對齊”研討活動，由上海市人工智能行業(yè)協(xié)會、上海市數(shù)據(jù)科學重點實驗室、上海人工智能實驗室治理研究中心、對外經(jīng)濟貿(mào)易大學數(shù)字經(jīng)濟與法律創(chuàng)新研究中心協(xié)辦支持。（雷渺鑫）
