據(jù)悉，該原則旨在促進(jìn)有關(guān)生成和所有其他人工智能技術(shù)的公平、準(zhǔn)確和有益的決策。不過ACM方面并未就此敦促推行具體的立法。

 

　　ACM美國技術(shù)政策委員會主席Jeremy Epstein表示，“我們會直接回應(yīng)立法機(jī)構(gòu)的意見征詢，但不會對法案或其中的部分內(nèi)容公開表態(tài)。”

 

　　ACM成立于1947年，號稱是“世界上最大的科學(xué)和教育計算協(xié)會”，擁有約110000名學(xué)生和專業(yè)會員。他們認(rèn)為，生成式AI日益強(qiáng)大，或?qū)ι鐣?gòu)成嚴(yán)重風(fēng)險，目前的技術(shù)安全使用指南不足，因此需要建立新標(biāo)準(zhǔn)，以確保可規(guī)避該技術(shù)可能帶來的危害。

▲圖源美國人工智能協(xié)會

 

　　此次發(fā)布的原則中，有四項原則專門針對生成式AI，另外四項原則改編自TPC 2022年的《負(fù)責(zé)任的算法系統(tǒng)聲明》原則，IT之家將原則全文置于下方：

 

　　生成式AI特定原則

 

　　部署和使用的限制和指南：應(yīng)與所有利益相關(guān)者協(xié)商，審查和應(yīng)用書面或修訂的法律和法規(guī)，以在需要時限制生成人工智能技術(shù)的部署和使用，以最大程度地減少危害。如果沒有明確和充分的保障措施，包括“human in the loop”以及相關(guān)利益相關(guān)者之間的明確共識，即該系統(tǒng)的好處將大大超過其潛在的負(fù)面影響，則不應(yīng)允許任何高風(fēng)險的人工智能系統(tǒng)運(yùn)行。一種方法是定義風(fēng)險等級，最高級別為不可接受的風(fēng)險，最低級別為最小風(fēng)險。

 

　　所有權(quán)：知識產(chǎn)權(quán)（IP)法律和法規(guī)尚未充分考慮生成式人工智能系統(tǒng)的結(jié)構(gòu)和功能的固有方面。

 

　　個人數(shù)據(jù)控制：生成式人工智能系統(tǒng)應(yīng)該允許人們選擇不使用他們的數(shù)據(jù)來訓(xùn)練系統(tǒng)或促進(jìn)其信息生成。

 

　　可糾正性：生成人工智能系統(tǒng)的提供者應(yīng)創(chuàng)建和維護(hù)公共存儲庫，可以記錄系統(tǒng)所犯的錯誤，并可以選擇進(jìn)行更正。

 

　　改編的先前原則

 

　　透明度：任何使用生成式人工智能的應(yīng)用程序或系統(tǒng)都應(yīng)向適當(dāng)?shù)睦嫦嚓P(guān)者明確披露。

 

　　可審計性和可質(zhì)疑性：生成人工智能系統(tǒng)的提供者應(yīng)確保盡可能記錄系統(tǒng)模型、算法、數(shù)據(jù)和輸出（適當(dāng)考慮隱私），以便在適當(dāng)?shù)那闆r下對其進(jìn)行審計和/或質(zhì)疑。

 

　　限制環(huán)境影響：鑒于生成式人工智能模型對環(huán)境的巨大影響，建議就方法論達(dá)成共識，以衡量、歸因并積極減少此類影響。

 

　　更高的安全性和隱私性：生成式人工智能系統(tǒng)容易受到各種新的安全和隱私風(fēng)險的影響，包括新的攻擊向量和惡意數(shù)據(jù)泄露等。