IT之家12月5日消息，安全公司Lasso Security日前發(fā)現(xiàn)AI模型平臺Hugging Face上存在API令牌漏洞，黑客可獲取微軟、谷歌、meta等公司的令牌，并能夠訪問模型庫，污染訓(xùn)練數(shù)據(jù)或竊取、修改AI模型。
▲圖源安全公司Lasso Security
IT之家從安全公司報(bào)道中獲悉，由于平臺的令牌信息寫死在API中，因此黑客可以直接從Hugging Face及GitHub的存儲庫（repository）獲得平臺上各模型分發(fā)者的API令牌（token），安全人員一共從上述平臺中找到1681個(gè)有效的令牌。
▲圖源安全公司Lasso Security
經(jīng)過一步分析資料，安全人員獲得了723家企業(yè)組織的帳號，其中包括meta、微軟、谷歌、VMware及Hugging Face官方等。其中655個(gè)令牌具有寫入權(quán)限，其中77個(gè)還能寫入多個(gè)組織，令研究人員得以全權(quán)控制多家知名公司的模型庫，例如Pythia的EleutherAI、meta Llama 2、Bloom的BigScience Workshop。
安全公司警告，只要黑客成功控制這些模型庫，就能發(fā)動多種攻擊。不限于最基本的竊取模型和數(shù)據(jù)集，或是污染模型本身，讓現(xiàn)有模型“夾帶私貨”，從而危害依賴這些基礎(chǔ)模型的應(yīng)用及公共設(shè)施。
此外，安全公司發(fā)現(xiàn)一個(gè)Hugging Face此前宣布已停用的org_api tokens存在漏洞，安全人員稍微修改了代碼，就令這款A(yù)PI“復(fù)活”，成功令研究人員下載平臺上多款不公開的模型，包括微軟的私有模型。
目前安全公司已經(jīng)上報(bào)相關(guān)漏洞，而微軟、meta、谷歌、VMware等公司也紛紛撤銷了此前的API令牌及暴露的token。
