史上最嚴(yán)監(jiān)管

 

　　根據(jù)媒體披露的消息，《人工智能法案》提案的談判授權(quán)草案采取了分類管理的思路，即基于人工智能的風(fēng)險程度（不可接受的風(fēng)險、高風(fēng)險、有限風(fēng)險和最小風(fēng)險）進(jìn)行區(qū)別管理，風(fēng)險較高的應(yīng)用程序?qū)⒚媾R更嚴(yán)格的監(jiān)管，需要更高的透明度和準(zhǔn)確性。

 

　　草案將嚴(yán)格禁止“對人類安全造成不可接受風(fēng)險的人工智能系統(tǒng)”，包括有目的地操縱技術(shù)、利用人性弱點或根據(jù)行為、社會地位和個人特征等進(jìn)行評價的系統(tǒng)等。例如，除打擊和預(yù)防特定恐怖威脅外，遠(yuǎn)程面部識別技術(shù)可能被禁止。

 

　　草案還要求人工智能公司對其算法保持人為控制，提供技術(shù)文件，并為“高風(fēng)險”應(yīng)用建立風(fēng)險管理系統(tǒng)。每個歐盟成員國都將設(shè)立一個監(jiān)督機(jī)構(gòu)，確保這些規(guī)則得到遵守。

近日，歐洲向立法嚴(yán)格監(jiān)管人工智能技術(shù)的應(yīng)用邁出關(guān)鍵一步。圖為法國總統(tǒng)馬克龍（中左）在圣埃蒂安市視察一家智能機(jī)器人公司。資料圖片

 

　　歐洲議會意大利議員布蘭多·伯尼菲表示，這樣做的目的是“避免建立一個基于人工智能的受控社會”。“我們認(rèn)為這些技術(shù)可以用于好的地方，也可以用來做壞事，風(fēng)險太高了。”他補充道。

 

　　歐洲議會議員們表示，希望確保人工智能系統(tǒng)能夠由人工監(jiān)控、安全透明。

 

　　有消息稱，歐洲議會的這一草案計劃于6月12日至15日提交歐洲議會表決，之后歐洲議會將與歐盟理事會就法律的最終形式進(jìn)行談判。

 

　　根據(jù)歐洲議會發(fā)布的聲明，一旦獲得批準(zhǔn)，該法律將成為全世界首部有關(guān)人工智能的法規(guī)。法律通過后，違反規(guī)定的公司最高可被處以4000萬歐元（1歐元約合人民幣7.6元）或其全球年營業(yè)額7%的罰款。

 

　　仍存諸多爭議

 

　　歐盟委員會大約在兩年前提出這一法案設(shè)想，旨在“制定人工智能監(jiān)管的全球標(biāo)準(zhǔn)”。2021年4月21日，歐盟委員會提出了《人工智能法案》提案，這被視為歐盟在人工智能以及更廣泛的歐盟數(shù)字戰(zhàn)略領(lǐng)域的里程碑事件。

 

　　自此之后，歐洲議會和歐盟理事會就提案進(jìn)行了多輪修訂和討論。繼歐盟理事會輪值主席國捷克于2022年10月19日分發(fā)了提案的第四版折中文本后，2022年12月6日，歐盟理事會通過了關(guān)于提案的共同立場，旨在確保投放到歐盟市場并在歐盟范圍內(nèi)使用的人工智能系統(tǒng)安全、透明。

 

　　按照原計劃，歐洲議會預(yù)計在2023年3月就上述共同立場擬定法案版本進(jìn)行投票。但2023年2月24日，布蘭多·伯尼菲和歐洲議會議員德拉戈·圖多拉奇提出了一份妥協(xié)修正案，包含了歐盟議會議員經(jīng)過“馬拉松式”談判后提出的反饋意見。例如，針對監(jiān)管沙盒（經(jīng)濟(jì)術(shù)語，指一個受監(jiān)督的安全測試區(qū)）機(jī)制，反饋中增加了新的措辭，要求建立沙盒機(jī)制的監(jiān)管機(jī)構(gòu)指導(dǎo)和監(jiān)督高風(fēng)險人工智能系統(tǒng)的開發(fā)人員，以便在他們退出沙盒機(jī)制時可以被推定為遵守了法案要求。

 

　　隨著近期ChatGPT等生成式人工智能技術(shù)（指基于算法、模型、規(guī)則生成文本、圖片、聲音、視頻、代碼等內(nèi)容的技術(shù)）的快速發(fā)展，2023年3月14日，布蘭多·伯尼菲和德拉戈·圖多拉奇提出了一份關(guān)于通用目的人工智能草案，提議為這類人工智能系統(tǒng)的提供商設(shè)定相應(yīng)義務(wù)，并為相關(guān)參與主體設(shè)定責(zé)任。此外，他們提議，ChatGPT等通用目的人工智能系統(tǒng)的整個生命周期都必須接受外部審計，以測試其性能、可預(yù)測性、可解釋性、可糾正性、安全性和網(wǎng)絡(luò)安全性是否符合法案的最嚴(yán)格要求。

 

　　鑒于立法者現(xiàn)階段就法案核心內(nèi)容仍存諸多爭議，且ChatGPT等生成式人工智能技術(shù)飛速發(fā)展帶來監(jiān)管難題，因此提案的立法進(jìn)程恐將一波三折。

 

　　多國紛紛出手

 

　　對歐盟的人工智能立法，國際社會廣泛關(guān)注。與此同時，為規(guī)范人工智能發(fā)展，全球多國紛紛著手加強管理，以保證科技創(chuàng)新與社會規(guī)范并進(jìn)。

 

　　當(dāng)?shù)貢r間4月11日，中國國家互聯(lián)網(wǎng)信息辦公室發(fā)布《生成式人工智能服務(wù)管理辦法（征求意見稿）》（以下簡稱《征求意見稿》），促進(jìn)生成式人工智能技術(shù)健康發(fā)展和規(guī)范應(yīng)用。《征求意見稿》在明確了對人工智能算法、框架等基礎(chǔ)技術(shù)的自主創(chuàng)新、推廣應(yīng)用、國際合作的鼓勵態(tài)度，在支持優(yōu)先采用安全可信的軟件、工具、計算和數(shù)據(jù)資源的同時，劃定了相關(guān)范圍，即辦法管轄范圍、辦法管理權(quán)限、“提供者”的責(zé)任主體認(rèn)定。此外，《征求意見稿》還將為未來生成式人工智能服務(wù)提供者在從業(yè)過程中的底線和規(guī)范提供法律依據(jù)。

 

　　美國商務(wù)部負(fù)責(zé)制定新興技術(shù)標(biāo)準(zhǔn)的國家標(biāo)準(zhǔn)與技術(shù)研究院今年1月發(fā)布《人工智能風(fēng)險管理框架》。近日，美國商務(wù)部下屬機(jī)構(gòu)國家電信和信息局宣布，考慮以一種類似金融監(jiān)管的新系統(tǒng)對人工智能創(chuàng)新進(jìn)行評估，并設(shè)置兩個月時間征詢公眾意見?！度A盛頓郵報》稱，這是美國商務(wù)部迄今應(yīng)對人工智能技術(shù)的最重大舉措。

 

　　意大利個人數(shù)據(jù)保護(hù)局(DPA)從3月31日起禁止使用ChatGPT，限制OpenAI公司處理意大利用戶信息數(shù)據(jù)，同時對其隱私安全問題立案調(diào)查。德國、法國、愛爾蘭等國家已開始準(zhǔn)備效仿意大利的做法，加強對生成式人工智能的監(jiān)管。

 

　　加拿大、韓國、日本等國家同樣開始在人工智能領(lǐng)域采取規(guī)范和限制措施。

 

　　聯(lián)合國教科文組織3月底發(fā)表聲明，呼吁各國政府盡快實施首份人工智能倫理問題全球性協(xié)議——《人工智能倫理問題建議書》。目前有40多個國家與聯(lián)合國教科文組織開展合作，依據(jù)建議書在宏觀層面制定人工智能規(guī)范措施。

 

　　專家分析稱，在人工智能立法方面，歐洲處于領(lǐng)先位置?！度斯ぶ悄芊ò浮诽岚概c后續(xù)頒布的《數(shù)字服務(wù)法案》《數(shù)字市場法案》及《數(shù)據(jù)治理法案》等核心法規(guī)一樣，均是歐盟重要數(shù)據(jù)戰(zhàn)略的一部分。在人工智能快速發(fā)展的時代，歐洲的立法不僅將對歐洲范圍內(nèi)人工智能設(shè)計和應(yīng)用產(chǎn)生影響，也將在某種程度上引導(dǎo)全球人工智能發(fā)展的方向。