在生成式AI崛起的當(dāng)下，開(kāi)源再次成為話題焦點(diǎn)：meta的開(kāi)源大模型Llama 2公開(kāi)商用，幾乎一夜之間重塑了大模型的發(fā)展路線；開(kāi)源社區(qū)Github上的生成式AI項(xiàng)目，一年同比增加248%；Hugging Face預(yù)言，2024年開(kāi)源大模型的能力會(huì)與閉源持平。

　　但就和開(kāi)源軟件誕生時(shí)一樣，開(kāi)源AI的安全性備受爭(zhēng)議。不同的是，它還面臨著定義模糊、巨頭游戲等新生問(wèn)題。要不要對(duì)開(kāi)源AI“開(kāi)綠燈”？不同開(kāi)放程度的AI都算開(kāi)源嗎？如何理解它們的價(jià)值和風(fēng)險(xiǎn)？

　　帶著這些問(wèn)題，近日多位學(xué)界和業(yè)界專家參加了“清華伍舜德樓行政法學(xué)工作坊·人工智能立法之開(kāi)源發(fā)展與法律規(guī)制”會(huì)議，一同討論開(kāi)源AI的規(guī)制問(wèn)題。本次會(huì)議由清華大學(xué)科技發(fā)展與治理研究中心及清華大學(xué)公共管理學(xué)院政府法制研究中心共同舉辦，清華大學(xué)公共管理學(xué)院院長(zhǎng)朱旭峰教授、清華大學(xué)公共管理學(xué)院于安教授致歡迎辭。

　　現(xiàn)狀：開(kāi)源豁免

　　盡管生成式AI的風(fēng)險(xiǎn)一直處于風(fēng)口浪尖，但不管是從業(yè)者還是監(jiān)管者，目前都對(duì)開(kāi)源AI更為包容。

　　以歐盟為例，即將發(fā)布的兩部法律為開(kāi)源AI明確亮了“綠燈”。同濟(jì)大學(xué)法學(xué)院助理教授、上海市人工智能社會(huì)治理協(xié)同創(chuàng)新中心研究員朱悅介紹，一部是接近全文定稿的歐盟《人工智能法案》，目前的版本將不會(huì)監(jiān)管免費(fèi)、開(kāi)源的AI系統(tǒng)；另一部則是《產(chǎn)品責(zé)任指令》。這一指令將AI產(chǎn)品納入了適用范圍，也就是當(dāng)AI系統(tǒng)里的軟件、硬件作為產(chǎn)品投向市場(chǎng)時(shí)，需要遵守相應(yīng)條款，但“在商業(yè)活動(dòng)之外研發(fā)、提供自由且開(kāi)源的軟件”除外。

　　中美也有類似的探索。比如中國(guó)社科院與南財(cái)合規(guī)科技研究院共同起草的《人工智能示范法（專家建議稿）》擬定，“免費(fèi)且開(kāi)源提供人工智能的個(gè)人、組織能證明已經(jīng)采取足夠安全措施的，可以減輕或不承擔(dān)責(zé)任。”最近兩位美國(guó)議員的《人工智能基礎(chǔ)模型透明度法案》提案?jìng)涫荜P(guān)注，當(dāng)中開(kāi)源模型也享有豁免權(quán)。

　　這種普遍寬松的態(tài)度，朱悅認(rèn)為主要目的是鼓勵(lì)創(chuàng)新、促進(jìn)技術(shù)交流。從整條人工智能產(chǎn)業(yè)鏈來(lái)看，無(wú)論是框架性的代碼，還是數(shù)據(jù)、預(yù)訓(xùn)練模型、評(píng)估基準(zhǔn)，開(kāi)源都發(fā)揮了難以替代的作用。以評(píng)估基準(zhǔn)為例，“如果做出了AI大模型，要看它達(dá)到了怎樣的性能水平，就需要跟其他大模型的基準(zhǔn)比較。但這種評(píng)估基準(zhǔn)存在于哪里？很多時(shí)候離不開(kāi)開(kāi)源平臺(tái)，比如Hugging Face?？梢哉f(shuō)，大部分AI組件都是在開(kāi)源的生態(tài)里發(fā)生的。”朱悅說(shuō)。

　　中國(guó)信息通信研究院的人工智能研究中心高級(jí)業(yè)務(wù)主管呼娜英同樣表示，相比于工業(yè)時(shí)代的封閉產(chǎn)業(yè)模式，開(kāi)源的分工效率更高。開(kāi)源AI在建設(shè)一個(gè)開(kāi)放的產(chǎn)業(yè)生態(tài)上有重要作用，在產(chǎn)業(yè)經(jīng)濟(jì)的貢獻(xiàn)上，它的作用也是顯而易見(jiàn)的。

　　而更直接的原因是，開(kāi)源本身就意味著更透明。朱悅指出，在GitHub、hugging face這些開(kāi)源社區(qū)上傳AI組件時(shí)，開(kāi)發(fā)者需要披露權(quán)重、參數(shù)、架構(gòu)等詳細(xì)信息，來(lái)幫助其他人更好地使用，實(shí)際上已經(jīng)履行了監(jiān)管者期待的大部分義務(wù)。所以，“已經(jīng)有很好的自我監(jiān)督、社群監(jiān)督，還有沒(méi)有必要再施加硬性監(jiān)管？需要考慮。”

　　難題：開(kāi)源“留一手”

　　更透明、更創(chuàng)新是開(kāi)源的固有優(yōu)勢(shì)，但碰上生成式AI，開(kāi)源有新的問(wèn)題要面對(duì)。

　　多位專家都提到，要警惕AI“假開(kāi)源”的現(xiàn)象：目前的開(kāi)源AI往往是“有限的開(kāi)放”，只公開(kāi)模型架構(gòu)，很少公開(kāi)訓(xùn)練數(shù)據(jù)和過(guò)程。除此之外，它可以限制使用者身份，限制核心功能的使用，還可以選擇舊版本開(kāi)源、新版本閉源。比如開(kāi)源界的明星Llama2大模型，其實(shí)就限制了月活躍用戶超過(guò)7億的公司使用。

　　究其原因，21世紀(jì)經(jīng)濟(jì)報(bào)道合規(guī)科技部副主任王俊指出，開(kāi)源站在法律、技術(shù)、商業(yè)的交叉口，開(kāi)源AI更多時(shí)候是一種商業(yè)選擇。

　　星紀(jì)魅族集團(tuán)數(shù)據(jù)合規(guī)執(zhí)行總監(jiān)朱玲鳳進(jìn)一步解釋，目前有些開(kāi)源AI由頭部公司主導(dǎo)，“越多人使用，就越能強(qiáng)化網(wǎng)格效應(yīng)，而且不是真正的開(kāi)放，后續(xù)需要使用它們的配套工具、配套服務(wù)。頭部公司還可能利用監(jiān)管豁免的方式，獲得尋租空間。”換言之，以開(kāi)源為噱頭的巨頭游戲，可能會(huì)進(jìn)一步強(qiáng)化大公司的壟斷地位，反而不利于產(chǎn)業(yè)競(jìng)爭(zhēng)。

　　呼娜英還提到，國(guó)際科技巨頭在用開(kāi)源AI擴(kuò)大影響力的同時(shí)，潛移默化地推行了一套自己的規(guī)則。產(chǎn)業(yè)自主性、國(guó)際依賴性的問(wèn)題必須要謹(jǐn)慎考慮，國(guó)內(nèi)應(yīng)當(dāng)嘗試發(fā)展自己的開(kāi)源生態(tài)。

　　不過(guò)限制競(jìng)爭(zhēng)的隱憂，已經(jīng)得到了一定緩解。朱悅表示，上文提到的歐盟兩部法律，都強(qiáng)調(diào)公益性的、社群性的、自律性的開(kāi)源。具體來(lái)說(shuō)，它們明確限定了“開(kāi)源”的附加條件，如果是通過(guò)開(kāi)源換取貨幣對(duì)價(jià)，綁定額外的服務(wù)，或者出于安全、兼容之外的目的獲得個(gè)人信息，進(jìn)行商業(yè)變現(xiàn)，那就不能享受豁免。此外，法規(guī)還鼓勵(lì)通過(guò)數(shù)據(jù)卡、模型卡、系統(tǒng)卡等信息披露的方式，進(jìn)一步促進(jìn)行業(yè)互助。

　　因此，朱悅認(rèn)為更重要的問(wèn)題可能是：如何運(yùn)用立法技術(shù)厘清開(kāi)源AI的邊界？需不需要設(shè)定，如何設(shè)定最基本的義務(wù)？

　　治理：定義與安全風(fēng)險(xiǎn)評(píng)估難

　　是否要對(duì)開(kāi)源豁免，與會(huì)專家們有了基本共識(shí)：有必要給予支持。但具體如何支持，難點(diǎn)主要來(lái)自兩個(gè)方面：怎么定義開(kāi)源AI，以及如何看待開(kāi)源AI的安全風(fēng)險(xiǎn)。

　　朱玲鳳發(fā)現(xiàn)，對(duì)于開(kāi)源軟件，通過(guò)讀取源代碼和技術(shù)文檔，基本能夠復(fù)現(xiàn)軟件。但對(duì)于開(kāi)源AI，只是開(kāi)放源代碼沒(méi)辦法復(fù)現(xiàn)能力，因?yàn)锳I是由代碼、模型、數(shù)據(jù)、算力等多個(gè)組件構(gòu)成的復(fù)雜系統(tǒng)，傳統(tǒng)的開(kāi)源定義沒(méi)法沿用。

　　作為參照，可以看看開(kāi)源鼻祖是如何理解這一問(wèn)題的。寫下《大教堂與集市》、掀起開(kāi)源運(yùn)動(dòng)的程序員，后來(lái)創(chuàng)立了著名的開(kāi)放源代碼促進(jìn)會(huì)（OSI）。該組織正在召集全球?qū)＜矣懻撻_(kāi)源AI的定義，其最新報(bào)告認(rèn)為開(kāi)源AI需要提供四種自由：一，為任何目的使用該系統(tǒng)，無(wú)需征得許可；二，研究系統(tǒng)如何工作，并檢查其組件；三，出于任何目的修改系統(tǒng)，包括改變其輸出；四，為任何目的共享系統(tǒng)供他人使用，無(wú)論修改與否。

　　朱玲鳳分析，OSI的定義明確了開(kāi)源AI不僅僅指公開(kāi)模型的源代碼。但仍然不清楚的是，具體開(kāi)源的對(duì)象是什么，是否會(huì)設(shè)計(jì)不同的開(kāi)源許可證。

　　“在完全封閉和完全開(kāi)放之間，AI有很多可選路徑，可以有使用限制、完全沒(méi)有使用限制，也可以完全封閉、完全不封閉。”安遠(yuǎn) AI 資深研究經(jīng)理方亮補(bǔ)充。在他看來(lái)，開(kāi)源AI需要有更精確的定義，這樣才能理解不同層次的風(fēng)險(xiǎn)。

　　值得思考的是，開(kāi)源是否會(huì)放大AI的固有安全風(fēng)險(xiǎn)。朱玲鳳注意到，OSI認(rèn)為“如何開(kāi)發(fā)符合道德規(guī)范、值得信賴或負(fù)責(zé)任的人工智能系統(tǒng)”不屬于定義的討論范圍。她擔(dān)憂的是，盡管開(kāi)源社群的創(chuàng)新價(jià)值一再被強(qiáng)調(diào)，但社群、協(xié)會(huì)并不保證能安全使用開(kāi)源AI，因此需要同時(shí)考慮開(kāi)放與可信。

　　開(kāi)源的安全性確實(shí)一直飽受爭(zhēng)議?！洞蠼烫门c集市》一書(shū)曾提出名言：“如果有足夠多的眼睛，錯(cuò)誤將無(wú)處遁形。” 簡(jiǎn)單來(lái)說(shuō)，就是開(kāi)源可以利用集體的力量審查技術(shù)、發(fā)現(xiàn)漏洞、修復(fù)缺陷。許多AI科學(xué)家也因此認(rèn)為，長(zhǎng)遠(yuǎn)來(lái)看，開(kāi)源是保障AI安全的唯一辦法。

　　但呼娜英也指出，不能忽視“目前AI開(kāi)源的安全風(fēng)險(xiǎn)依然非常高，而且與日俱增。我們看到大型的網(wǎng)絡(luò)安全事件基本都與開(kāi)源有關(guān)，對(duì)于高風(fēng)險(xiǎn)行業(yè)，尤其要注意安全和發(fā)展問(wèn)題。”

　　針對(duì)開(kāi)源AI的定義，中國(guó)人民公安大學(xué)教授、數(shù)據(jù)法學(xué)研究院院長(zhǎng)蘇宇認(rèn)為，可以先豁免完全免費(fèi)、允許所有人自由訪問(wèn)和利用的開(kāi)源AI組件。蘇宇指出，這樣的開(kāi)源AI組件對(duì)人工智能的研發(fā)有著基礎(chǔ)性作用，而且被大量使用者反復(fù)打磨和完善，相對(duì)于信息不對(duì)稱、不透明的閉源組件和應(yīng)用更安全。“這種情況下，堅(jiān)持完善透明度義務(wù)就好。其他帶商業(yè)性質(zhì)的開(kāi)源、不完全開(kāi)源組件及軟件等的豁免條件，可以待制度實(shí)踐更成熟之后逐步確定。”

　　保持透明度的基礎(chǔ)義務(wù)，分層治理開(kāi)源AI，也是專家們的共識(shí)。比如屬于通用目的、高風(fēng)險(xiǎn)，或者基礎(chǔ)模型的開(kāi)源AI，專家認(rèn)為仍然需要規(guī)制安全風(fēng)險(xiǎn)。

　　“對(duì)于開(kāi)源AI，要認(rèn)清哪些是固有風(fēng)險(xiǎn)，哪些是因?yàn)殚_(kāi)源而增減、縮放的風(fēng)險(xiǎn)。盡可能用精準(zhǔn)敏捷的治理措施，代替一刀切。”蘇宇總結(jié)。