美國(guó)商務(wù)部下屬國(guó)家標(biāo)準(zhǔn)與技術(shù)研究院（NIST）發(fā)布了《人工智能風(fēng)險(xiǎn)管理框架》（RMF），該文件旨在幫助指導(dǎo)機(jī)構(gòu)組織在開(kāi)發(fā)和部署人工智能系統(tǒng)時(shí)，不會(huì)產(chǎn)生偏見(jiàn)和其他負(fù)面后果。人工智能律師事務(wù)所BNH.AI的創(chuàng)始人AndrewBurt表示，該文件很好地定義了組織未來(lái)降低人工智能風(fēng)險(xiǎn)的標(biāo)準(zhǔn)法律方法。
隨著人工智能發(fā)展步伐的加快，使用人工智能的潛在危害也在加快。NIST應(yīng)美國(guó)國(guó)會(huì)的要求，設(shè)計(jì)了RMF，在一種指導(dǎo)規(guī)范下來(lái)創(chuàng)建負(fù)責(zé)任的人工智能系統(tǒng)。
RMF執(zhí)行摘要指出：“如果沒(méi)有適當(dāng)?shù)目刂?，人工智能系統(tǒng)會(huì)放大、延續(xù)或加劇個(gè)人和社區(qū)的不公平或不良后果。”“通過(guò)適當(dāng)?shù)目刂?，人工智能系統(tǒng)可以減輕和管理不公平的結(jié)果。”
這份48頁(yè)的文件，以四種方式幫助組織進(jìn)行人工智能風(fēng)險(xiǎn)管理，稱為RMF核心功能——包括“成長(zhǎng)”地圖（Map）、測(cè)量（Measure）、管理（Manage）和治理（Govern）。
首先，它鼓勵(lì)用戶全面規(guī)劃人工智能系統(tǒng)，包括預(yù)期的商業(yè)目的和使用人工智能可能造成的潛在危害。預(yù)設(shè)人工智能系統(tǒng)產(chǎn)生積極和消極結(jié)果的不同方式對(duì)整個(gè)過(guò)程至關(guān)重要。業(yè)務(wù)環(huán)境在這里至關(guān)重要，組織對(duì)風(fēng)險(xiǎn)的容忍度也是如此。
第二，RMF要求有道德的人工智能從業(yè)者使用第一步中創(chuàng)建的地圖來(lái)確定如何以定量和定性的方式衡量人工智能系統(tǒng)所產(chǎn)生的影響。RMF表示，應(yīng)定期進(jìn)行測(cè)量，包括人工智能系統(tǒng)的功能、可檢查性和可信度（避免偏差），并將結(jié)果與基準(zhǔn)進(jìn)行比較。
第三，組織將使用第二步中的測(cè)量結(jié)果來(lái)幫助其持續(xù)管理人工智能系統(tǒng)。RMF框架為用戶提供了管理已部署人工智能系統(tǒng)風(fēng)險(xiǎn)的工具，并根據(jù)評(píng)估的風(fēng)險(xiǎn)和風(fēng)險(xiǎn)優(yōu)先級(jí)分配風(fēng)險(xiǎn)管理資源。
地圖、測(cè)量和管理功能在一個(gè)總體治理框架下結(jié)合在一起，該框架為用戶提供了實(shí)施風(fēng)險(xiǎn)緩解戰(zhàn)略所有必要組成部分的政策和程序。
RMF沒(méi)有法律效力，而且可能未來(lái)也不會(huì)。但Burt表示，它確實(shí)為人工智能風(fēng)險(xiǎn)管理提供了一種可行的方法。
NIST框架的部分優(yōu)勢(shì)在于它是自愿的，而不是監(jiān)管，這可能會(huì)成為一個(gè)治理標(biāo)準(zhǔn)。
BNH.ai為許多客戶進(jìn)行AI審計(jì)，Burt預(yù)計(jì)RMF方法將成為未來(lái)進(jìn)行AI審計(jì)的標(biāo)準(zhǔn)方式。公司很快意識(shí)到需要審計(jì)自己的人工智能系統(tǒng)，以確保他們不會(huì)以有害的方式傷害用戶或使偏見(jiàn)永久化。
如今，大部分風(fēng)險(xiǎn)源于快速采用ChatGPT等工具以及其他大型語(yǔ)言模型和生成型人工智能模型。由于這些系統(tǒng)是基于來(lái)自整個(gè)互聯(lián)網(wǎng)的數(shù)據(jù)集進(jìn)行訓(xùn)練的，因此訓(xùn)練數(shù)據(jù)中包含的偏見(jiàn)和仇恨言論的數(shù)量可能令人震驚。
在某些方面，RMF將成為美國(guó)對(duì)標(biāo)歐盟人工智能法案的文件。2021首次提出的《歐盟人工智能法案》很可能在今年成為法律，其可接受風(fēng)險(xiǎn)等級(jí)將對(duì)公司部署人工智能系統(tǒng)的能力產(chǎn)生巨大影響。
然而，這兩種方法之間存在很大差異。首先，《人工智能法案》將具有法律效力，并將對(duì)違法行為處以罰款。另一方面，RMF是完全自愿的，并將通過(guò)成為律師可以在民事法庭上引用的行業(yè)標(biāo)準(zhǔn)來(lái)實(shí)施改變。RMF具有通用性和靈活性，足以適應(yīng)快速變化的人工智能環(huán)境，這也與《人工智能法案》不同。
歐盟的做法傾向于系統(tǒng)化，固化不靈活，試圖一次解決所有問(wèn)題。有可能會(huì)抑制人工智能高速創(chuàng)新和發(fā)展的腳步，當(dāng)然與此同時(shí)風(fēng)險(xiǎn)也會(huì)大大降低。NISTRMF要靈活得多，使得人工智能的開(kāi)發(fā)和應(yīng)用門(mén)檻降低，有利于創(chuàng)新和普及的速度提高。
