人工智能的發(fā)展日新月異，尤其是生成型人工智能，已經(jīng)成為科技行業(yè)的熱門話題。然而，生成型人工智能也存在著失控的風(fēng)險(xiǎn)。為了確保生成型人工智能的“安全和負(fù)責(zé)任”地發(fā)展，今天，四家領(lǐng)先的人工智能科技公司宣布成立前沿模型論壇（Frontier Model Forum）。
前沿模型論壇是一個(gè)專注于前沿人工智能模型的組織，由微軟、OpenAI、谷歌和Anthropic四家公司共同發(fā)起。所謂前沿人工智能模型，是指那些超越現(xiàn)有最先進(jìn)模型的能力，并且可以執(zhí)行多種任務(wù)的大規(guī)模機(jī)器學(xué)習(xí)模型。
在谷歌的博客文章中，該組織公布了其目標(biāo)，IT之家翻譯如下：
推進(jìn)人工智能安全研究，促進(jìn)前沿模型的負(fù)責(zé)任開發(fā)，降低風(fēng)險(xiǎn)，并實(shí)現(xiàn)獨(dú)立、標(biāo)準(zhǔn)化的能力和安全評估。
確定前沿模型負(fù)責(zé)任開發(fā)和部署的最佳實(shí)踐，幫助公眾了解這項(xiàng)技術(shù)的性質(zhì)、能力、局限和影響。
與政策制定者、學(xué)者、民間社會和企業(yè)合作，分享有關(guān)信任和安全風(fēng)險(xiǎn)的知識。
支持開發(fā)可以幫助應(yīng)對社會最大挑戰(zhàn)的應(yīng)用，例如減緩和適應(yīng)氣候變化、早期癌癥檢測和預(yù)防、以及應(yīng)對網(wǎng)絡(luò)威脅。
該組織將首先建立一個(gè)顧問委員會，以便開始制定前沿人工智能模型的安全標(biāo)準(zhǔn)建議，并開展人工智能安全研究，并與其他公司和政府分享這些工作成果。
聯(lián)合聲明中引用了微軟總裁Brad Smith的話：“創(chuàng)造人工智能技術(shù)的公司有責(zé)任確保它是安全、可靠且受人類控制的。這一倡議是讓科技界共同推進(jìn)負(fù)責(zé)任的人工智能發(fā)展并應(yīng)對挑戰(zhàn)的重要一步，以便它造福全人類。”
前沿模型論壇也歡迎更多從事前沿人工智能模型開發(fā)的公司加入該組織，只要他們也表現(xiàn)出對前沿模型安全的堅(jiān)定承諾，包括通過技術(shù)和制度方面的方法。
