歐洲議會的決議再次表明了歐洲在數(shù)字領(lǐng)域注重道德倫理的態(tài)度，歐洲有志于站在倫理的制高點，引導(dǎo)全球人工智能的發(fā)展方向。
邱靜
歐洲議會10月通過一項決議，對執(zhí)法機構(gòu)在執(zhí)法過程中使用人工智能提出要求，呼吁禁止警方在公共場所或者邊境檢查中實行大規(guī)模人臉識別、禁止使用私域人臉識別數(shù)據(jù)庫以及根據(jù)行為特征進行預(yù)測性監(jiān)管等。
歐洲議會的決議再次表明了歐洲在數(shù)字領(lǐng)域注重道德倫理的態(tài)度，歐洲有志于站在倫理的制高點，引導(dǎo)全球人工智能的發(fā)展方向。
關(guān)注人的數(shù)據(jù)安全和被濫用
歐洲的人工智能倫理主要關(guān)注數(shù)字技術(shù)的開發(fā)者、制造商和運營商的行為規(guī)范，以最大限度減少在人工智能技術(shù)發(fā)展和運用中可能產(chǎn)生的危害。其涵蓋范圍主要包括數(shù)據(jù)隱私、偏見、歧視等產(chǎn)生的各類問題，近期和中期的擔(dān)憂是人工智能對工作和工作場所的影響，長期性擔(dān)憂關(guān)注人工智能技術(shù)達到或者超過人類同等能力時所產(chǎn)生的影響。
人工智能倫理涉及的方面較多，歐洲主要關(guān)注以下幾個方面。
一是隱私。人工智能技術(shù)的開發(fā)和運用需要收集和使用大量數(shù)據(jù)，其中包含個人信息。大數(shù)據(jù)中長期保留的個人信息被攫取和使用的風(fēng)險較大；機器學(xué)習(xí)可以幫助從數(shù)據(jù)中提取信息、發(fā)現(xiàn)新模式，并且能夠?qū)⒖此茻o害的數(shù)據(jù)轉(zhuǎn)化為敏感的個人數(shù)據(jù)；通過面部識別軟件或?qū)徫?、社交媒體的數(shù)據(jù)挖掘來識別個體身份；人工智能技術(shù)被大量用于監(jiān)視和偵查，即使主體對數(shù)據(jù)擁有相應(yīng)權(quán)利，但也難以控制訓(xùn)練有素的人工智能模型……這些都可能導(dǎo)致對個人隱私和尊嚴(yán)的侵犯。
二是公平。人工智能由人創(chuàng)造，因此易受人的偏見左右。技術(shù)開發(fā)人員和用戶的價值觀會影響人工智能模型的設(shè)計和使用，導(dǎo)致系統(tǒng)偏差，尤其是相關(guān)程序主要反映特定人群的價值觀時，形成偏見和歧視的現(xiàn)象就會更加突出。人工智能系統(tǒng)會不斷復(fù)制和強化這種偏見，從而造成嚴(yán)重的社會問題，產(chǎn)生深遠的影響。
例如，在某些西方國家執(zhí)法和維護國家安全的過程中，面部識別技術(shù)的運用導(dǎo)致黑人等特定人群受到不公平對待；在職業(yè)領(lǐng)域，女性更易遭受性別歧視。而且，人工智能系統(tǒng)尤其是深度學(xué)習(xí)的系統(tǒng)，一般都有掌握其運作的“黑匣子”，使得系統(tǒng)運行的透明度較差，這加深了人們對技術(shù)的不信任，使人們更加質(zhì)疑其公平性。
三是平等。人工智能的發(fā)展可以簡化業(yè)務(wù)，較大程度上提高生產(chǎn)效率和能力，增進企業(yè)的效益，使企業(yè)所有人獲得不成比例的收益。但與此同時，人工智能也可能取代某些工作崗位，導(dǎo)致部分人群失業(yè)或者收入快速下降，收入差異化現(xiàn)象會更加突出，就業(yè)結(jié)構(gòu)呈現(xiàn)兩極化趨勢，加劇社會不平等問題。
此外，技術(shù)逐漸成為一種支配性甚至壟斷性的權(quán)力。人工智能的發(fā)展讓谷歌、臉書（元）、蘋果、亞馬遜等數(shù)字大公司擁有更強大的技術(shù)能力，獲取更多的數(shù)據(jù)和市場份額，從而鞏固市場壟斷地位、集聚更大的私權(quán)力，導(dǎo)致貧富差距及更加嚴(yán)重的社會撕裂。
四是安全。人工智能的安全因素在于其形成的風(fēng)險具有不可預(yù)知性，亦即難以準(zhǔn)確預(yù)估和應(yīng)對不確定性導(dǎo)致的安全問題，比如設(shè)計漏洞、設(shè)計不當(dāng)引發(fā)的安全風(fēng)險，操作不當(dāng)、惡意使用引發(fā)的安全問題，等等。
深度學(xué)習(xí)可以不斷提升人工智能系統(tǒng)的能力，但自我提升的過程容易形成新的安全風(fēng)險，使不確定性持續(xù)存在，尤其是超級人工智能不能自主有效應(yīng)對各類不確定性因素。此外，人工智能技術(shù)一旦被恐怖組織或個人獲取和掌握，以及被用于戰(zhàn)爭，會給整個人類帶來致命的危害。
相關(guān)立法循序漸進
在規(guī)制人工智能技術(shù)應(yīng)用方面，歐盟走在了前列，尤其密切關(guān)注人工智能可能引發(fā)的各類問題，并且率先制定出相關(guān)規(guī)則。
2018年生效的歐盟《通用數(shù)據(jù)保護條例》被稱為史上最嚴(yán)格的數(shù)據(jù)保護條例，它明確了數(shù)據(jù)主體所享有的知情同意權(quán)、遺忘權(quán)、可攜帶權(quán)等，規(guī)定了數(shù)據(jù)控制者和處理者的責(zé)任和義務(wù)，設(shè)立了數(shù)據(jù)保護官，增大了處罰力度。人工智能的設(shè)計和運行需要獲取大量數(shù)據(jù)，都受到該條例的有效約束。
同時，歐盟委員會于2020年2月發(fā)布了《人工智能白皮書——歐洲追求卓越和信任的策略》，提出希望建立卓越和可信任的人工智能生態(tài)系統(tǒng)。2021年4月21日，歐盟委員會發(fā)布了立法提案——《歐洲議會和理事會關(guān)于制定人工智能統(tǒng)一規(guī)則（人工智能法）和修訂某些歐盟立法的條例》（以下簡稱“人工智能立法提案”），以期通過建設(shè)可信人工智能，獲取全球倫理規(guī)則制定主導(dǎo)權(quán)。
人工智能立法提案經(jīng)歐洲議會和歐洲理事會審議通過后將成為歐盟的法律，其主要內(nèi)容包括：
首先，實行分級管理。根據(jù)系統(tǒng)的功能和用途，將人工智能應(yīng)用風(fēng)險分為不可接受的風(fēng)險、高風(fēng)險、有限風(fēng)險和低風(fēng)險四類。
對公民的安全、日常生活和基本權(quán)利構(gòu)成嚴(yán)重威脅的，屬于不可接受的風(fēng)險。例如，人工智能系統(tǒng)通過潛意識技術(shù)扭曲人的行為或者利用人的弱點，導(dǎo)致對此人或者其他人形成身體或精神上的傷害；公共機構(gòu)進行社會評分的人工智能系統(tǒng)可能造成部分人群受到不公平待遇。
此外，原則上禁止出于執(zhí)法目的在公共空間使用實時遠程生物識別系統(tǒng)，如面部識別系統(tǒng)。但一些特殊情況除外，如緊急尋找失蹤兒童等。
其次，對高風(fēng)險嚴(yán)格管理。提案將可能發(fā)生高風(fēng)險的領(lǐng)域分為關(guān)鍵基礎(chǔ)設(shè)施、公共服務(wù)、出入境等八類，并且強調(diào)所有遠程生物識別系統(tǒng)都具有高風(fēng)險。
提案明確存在高風(fēng)險的人工智能技術(shù)在投入市場之前應(yīng)當(dāng)履行相關(guān)義務(wù)：具有完備的風(fēng)險評估系統(tǒng)，采取風(fēng)險管理措施；向系統(tǒng)提供高質(zhì)量的數(shù)據(jù)集，檢查可能存在的偏見，以規(guī)避風(fēng)險和防止歧視性結(jié)果；采取適當(dāng)?shù)谋O(jiān)管措施，盡量降低安全風(fēng)險；完成提高透明度的相關(guān)義務(wù)，例如向用戶提供清晰、準(zhǔn)確和全面的信息，做好記錄存檔工作以確保結(jié)果和過程可追溯，及時提供系統(tǒng)運行及其目的的相關(guān)信息以供監(jiān)管當(dāng)局查詢。
再次，對有限風(fēng)險提出透明度要求。除對高風(fēng)險系統(tǒng)提出嚴(yán)格的透明度要求外，提案還明確透明度義務(wù)適用于某些風(fēng)險較低的人工智能系統(tǒng)，例如與人類交互的人工智能系統(tǒng)、情感識別或者生物特征分類系統(tǒng)、深度偽造技術(shù)等。
最后，明確監(jiān)管部門和處罰要求。提案指出，可以成立歐盟人工智能委員會，委員會負責(zé)監(jiān)督新規(guī)則的實施和相關(guān)標(biāo)準(zhǔn)的制定，并且協(xié)調(diào)成員國行為、促進成員國分享實踐經(jīng)驗。
在處罰方面，針對不同情形設(shè)定了相應(yīng)處罰力度。例如，明確在開發(fā)或者使用高風(fēng)險的人工智能系統(tǒng)中，如果違反相關(guān)規(guī)定，將處以高達3000萬歐元或公司全球年度總營業(yè)額2%至6%的行政罰款。
全球影響
歐盟出臺了數(shù)據(jù)保護法律，并即將出臺人工智能法律。在人工智能快速發(fā)展的時代，歐盟的立法將對歐洲的人工智能設(shè)計和應(yīng)用產(chǎn)生影響，也將在某種程度上引導(dǎo)全球人工智能發(fā)展的方向。
一是可能在一定程度上抑制歐洲的人工智能創(chuàng)新。
2021年1月25日美國信息技術(shù)與創(chuàng)新基金會發(fā)布的報告指出，歐洲的人工智能仍然落后于美國和中國。為改變落后局面，歐盟及歐洲各國進行了大量投資，但是歐洲一直將權(quán)利保護與道德倫理作為優(yōu)先價值選擇?！锻ㄓ脭?shù)據(jù)保護條例》提高了個人數(shù)據(jù)保護水平，但嚴(yán)格的規(guī)定也給企業(yè)增加了相當(dāng)?shù)呢摀?dān)，具體監(jiān)管上也存在困難。
有專家指出，歐盟委員會的人工智能立法提案可能會在一定程度上阻礙企業(yè)創(chuàng)新；美國智庫數(shù)據(jù)創(chuàng)新中心的報告指出，規(guī)范歐洲人工智能的新法律可能給歐盟在未來5年內(nèi)造成31億歐元經(jīng)濟損失。
二是增大了其他國家的企業(yè)進入歐盟市場的難度。
歐盟的法律規(guī)定將導(dǎo)致人工智能研發(fā)成本上升。同時，立法提案明確了適用范圍包括為歐洲提供人工智能系統(tǒng)或服務(wù)的全球各類經(jīng)濟體，進口商必須確保外國供應(yīng)商已經(jīng)執(zhí)行了適當(dāng)?shù)暮弦?guī)評估，符合歐盟法律相關(guān)規(guī)定，這些嚴(yán)格規(guī)范會增加他國企業(yè)進入歐盟市場的難度、提高成本，相當(dāng)于給歐盟市場筑起一道藩籬。
三是有助于歐洲鞏固其占據(jù)的倫理制高點和規(guī)則主導(dǎo)權(quán)。
基于制定規(guī)范的能力、歐盟市場的規(guī)模效應(yīng)以及形成的道德引導(dǎo)力，歐盟制定的規(guī)則常常具有“布魯塞爾效應(yīng)”，能夠影響其他國家的規(guī)則制定。例如，《通用數(shù)據(jù)保護條例》成為數(shù)據(jù)保護的范本法律，被很多國家借鑒。而歐盟即將出臺的人工智能立法注重倫理建設(shè)、權(quán)利保護以及風(fēng)險防范，充分體現(xiàn)了歐洲以人為本的價值觀，符合全球?qū)τ谌斯ぶ悄馨l(fā)展不確定性的擔(dān)憂狀況。而且相關(guān)規(guī)范具體、合理，可能再次引領(lǐng)全球數(shù)字領(lǐng)域立法的發(fā)展方向。
同時，基于價值理念上的差異與鼓勵創(chuàng)新的考慮，其他國家可能會更加注重在倫理、權(quán)利與自由創(chuàng)新之間尋求平衡，避免損害自身的國際競爭力。
四是將實質(zhì)性提高人工智能的道德性和安全性。
《通用數(shù)據(jù)保護條例》及其帶來的全球影響較大程度上提高了數(shù)據(jù)保護水平。歐盟人工智能立法提案明確了分級管理體制，禁止某些人工智能技術(shù)，對高風(fēng)險人工智能的開發(fā)和應(yīng)用提出了合規(guī)要求，并設(shè)置處罰規(guī)定。
立法使一些道德倫理上的要求轉(zhuǎn)化為具體規(guī)范，并且具有了法律約束力，可以促使人工智能設(shè)計和應(yīng)用充分體現(xiàn)倫理要求，有效保護個人權(quán)利，盡力防范各類風(fēng)險，從而引導(dǎo)技術(shù)向善，避免給個人和社會帶來危害。
五是促進全球人工智能監(jiān)管政策的實施。
由于人工智能的重要性和存在的潛在風(fēng)險，大部分國家和國際組織都較為重視道德倫理、權(quán)利保護和安全問題，并形成了一些提議，但基本上還停留于研究和號召層面，形成了一些原則性內(nèi)容，而欠缺具體規(guī)范，也沒有具體落實。對歐盟的人工智能立法，國際社會廣泛關(guān)注，其他國家和國際組織也會逐漸落實相關(guān)提議，開啟立法議程并保障規(guī)定的實施。
?。ㄗ髡呦抵袊鐣茖W(xué)院世界經(jīng)濟與政治研究所副編審）
