《辦法》要求，利用人類生物樣本、個人信息數(shù)據(jù)等的科技活動等需進(jìn)行科技倫理審查；從事生命科學(xué)、醫(yī)學(xué)、人工智能等科技活動的單位，研究內(nèi)容涉及科技倫理敏感領(lǐng)域的，應(yīng)設(shè)立科技倫理（審查）委員會。

 

　　值得注意的是，《辦法》要求制定“需要開展倫理審查復(fù)核的科技活動清單”，并給出了清單明細(xì)：具有輿論社會動員能力和社會意識引導(dǎo)能力的算法模型、應(yīng)用程序及系統(tǒng)的研發(fā)，面向存在安全、人身健康風(fēng)險等場景的具有高度自主能力的自動化決策系統(tǒng)的研發(fā)等。

 

　　南開大學(xué)法學(xué)院副院長、中國新一代人工智能戰(zhàn)略發(fā)展研究院特約研究員陳兵認(rèn)為，根據(jù)《辦法》的規(guī)定，納入清單管理的科技活動將面臨更加嚴(yán)格的科技倫理審查、動態(tài)跟蹤和倫理風(fēng)險防控，且未按照規(guī)定通過科技倫理審查和專家復(fù)核擅自開展納入清單管理的科技活動的需要承擔(dān)一定的法律責(zé)任。故對此類科技活動實(shí)施清單管理一方面能夠明確審查重點(diǎn)，避免對清單范圍外的科技活動進(jìn)行程度不相當(dāng)?shù)膽土P，以推動審查的規(guī)范性。另一方面，能夠保證審查更加透明可預(yù)期，保障主體開展科技活動的積極性。

 

　　部分單位應(yīng)設(shè)立科技倫理（審查）委員會

 

　　根據(jù)科技部有關(guān)負(fù)責(zé)人解讀，起草過程中既要促進(jìn)科技向善，防范科技活動可能帶來的潛在風(fēng)險，保證科技創(chuàng)新活動的正確方向；還要遵循科技規(guī)律，立足我國科技發(fā)展階段和社會文化特點(diǎn)，推動科技創(chuàng)新與科技倫理的協(xié)同發(fā)展、良性互動。

 

　　哪些科技活動需要進(jìn)行科技倫理審查？《辦法》明確提出：涉及以人為研究參與者的科技活動，包括以人為測試、調(diào)查、觀察等研究活動的對象，以及利用人類生物樣本、個人信息數(shù)據(jù)等的科技活動；不直接涉及人或?qū)嶒?yàn)動物，但可能在生命健康、生態(tài)環(huán)境、公共秩序、可持續(xù)發(fā)展等方面帶來倫理風(fēng)險挑戰(zhàn)的科技活動等。

 

　　此外，科技部有關(guān)負(fù)責(zé)人還指出，《辦法》起草過程堅持問題導(dǎo)向，重點(diǎn)解決科技倫理審查職責(zé)不明確、程序不規(guī)范、機(jī)制不健全等問題。

 

　　可以看到，《辦法》要求從事生命科學(xué)、醫(yī)學(xué)、人工智能等科技活動的單位，研究內(nèi)容涉及科技倫理敏感領(lǐng)域的，應(yīng)設(shè)立科技倫理（審查）委員會。

 

　　并且，應(yīng)為科技倫理（審查）委員會履職配備必要的工作人員、提供辦公場所和經(jīng)費(fèi)等條件，并采取有效措施保障科技倫理（審查）委員會獨(dú)立開展倫理審查工作。

 

　　21世紀(jì)經(jīng)濟(jì)報道記者梳理發(fā)現(xiàn)，目前，已經(jīng)有廣東、四川、云南、黑龍江、遼寧、湖南等多地建立了科技倫理審查備案中心或制定了科技倫理治理的相關(guān)政策。在企業(yè)層面，國內(nèi)阿里巴巴、商湯等企業(yè)已設(shè)立相關(guān)的科技倫理委員會，防范倫理風(fēng)險，推動企業(yè)科技自省與自律。

 

　　個人隱私數(shù)據(jù)等使用將被重點(diǎn)審查

 

　　縱觀《辦法》可以看到，涉及數(shù)據(jù)以及算法是科技審查的重點(diǎn)，上述總則提及“利用人類生物樣本、個人信息數(shù)據(jù)等的科技活動”是審查內(nèi)容。

 

　　此外，科技倫理（審查）委員會應(yīng)對重點(diǎn)內(nèi)容進(jìn)行審查，其中就包括涉及以人為研究參與者的科技活動，所制定的招募方案公平合理，生物樣本的收集、儲存、使用及處置合法合規(guī)，個人隱私數(shù)據(jù)、生物特征信息等信息處理符合個人信息保護(hù)的有關(guān)規(guī)定……所提供的知情同意書內(nèi)容完整、風(fēng)險告知客觀充分、表述清晰易懂，獲取個人知情同意的方式和過程合規(guī)恰當(dāng)。

 

　　此外，還要重點(diǎn)審查涉及數(shù)據(jù)和算法的科技活動，數(shù)據(jù)的收集、存儲、加工、使用等處理活動以及研究開發(fā)數(shù)據(jù)新技術(shù)等符合國家數(shù)據(jù)安全和個人信息保護(hù)等有關(guān)規(guī)定，數(shù)據(jù)安全風(fēng)險監(jiān)測及應(yīng)急處理方案得當(dāng)；算法、模型和系統(tǒng)的設(shè)計、實(shí)現(xiàn)、應(yīng)用等遵守公平、公正、透明、可靠、可控等原則，符合國家有關(guān)要求，倫理風(fēng)險評估審核和應(yīng)急處置方案合理，用戶權(quán)益保護(hù)措施全面得當(dāng)。

 

　　在北京大成律師事務(wù)所高級合伙人鄧志松看來，上述規(guī)定意味著相關(guān)主體在進(jìn)行個人信息以及數(shù)據(jù)合規(guī)的基礎(chǔ)上，也應(yīng)進(jìn)行科技倫理審查。

 

　　不過，北京航空航天大學(xué)法學(xué)院副教授、北京科技創(chuàng)新中心研究基地副主任趙精武認(rèn)為，對于涉及個人信息、數(shù)據(jù)及算法的科技活動，科技倫理審查是應(yīng)用場景的目的性審查。

 

　　21世紀(jì)經(jīng)濟(jì)報道記者注意到，今年8月份發(fā)布的《個人信息保護(hù)合規(guī)審計管理辦法（征求意見稿）》中，在利用個人信息進(jìn)行自動化決策中，要求重點(diǎn)審計事前是否算法模型進(jìn)行科技倫理審查。一定程度上也銜接了科技倫理審查的要求。

 

　　對部分新興科技活動實(shí)施清單管理

 

　　值得注意的是，《辦法》制定“需要開展倫理審查復(fù)核的科技活動清單”：要求建立需要開展專家復(fù)核的科技活動清單制度，對可能產(chǎn)生較大倫理風(fēng)險挑戰(zhàn)的新興科技活動實(shí)施清單管理。

 

　　科技部有關(guān)負(fù)責(zé)人指出，制定清單的主要目的是為了有效應(yīng)對生命科學(xué)、人工智能等新技術(shù)加速突破和應(yīng)用所帶來的倫理風(fēng)險與挑戰(zhàn)。納入清單管理的科技活動主要考慮三個方面的因素。一是科學(xué)技術(shù)自身的倫理風(fēng)險，包括科學(xué)知識和安全信息的充分程度，技術(shù)的成熟度、操作難易程度、安全性、有效性和可控性；二是科技活動倫理風(fēng)險發(fā)生的可能性、風(fēng)險種類、嚴(yán)重程度、影響范圍等；三是科技活動的必要合理性、目標(biāo)人群或目標(biāo)應(yīng)用場景等。

 

　　在需要開展倫理審查復(fù)核的科技活動清單中，有三項活動與人工智能密切相關(guān)：對人類主觀行為、心理情緒和生命健康等具有較強(qiáng)影響的人機(jī)融合系統(tǒng)的研發(fā)；具有輿論社會動員能力和社會意識引導(dǎo)能力的算法模型、應(yīng)用程序及系統(tǒng)的研發(fā)；面向存在安全、人身健康風(fēng)險等場景的具有高度自主能力的自動化決策系統(tǒng)的研發(fā)。

 

　　陳兵看來，在人工智能領(lǐng)域開展科技倫理審查，有助于推動可信人工智能的實(shí)現(xiàn)，推動人工智能產(chǎn)業(yè)健康有序發(fā)展，在全球競爭中獲得話語權(quán)。“可信任、可解釋、更安全不僅是倫理要求，也代表了人工智能技術(shù)的發(fā)展方向，是需要搶占的技術(shù)制高點(diǎn)。開展科技倫理審查能在一定程度上避免技術(shù)無序、野蠻發(fā)展的情況。”

 

　　趙精武指出，科技倫理審查已經(jīng)成為人工智能技術(shù)風(fēng)險治理的重要工具。“法律所能化解的風(fēng)險類型終歸有限，面對持續(xù)創(chuàng)新的人工智能技術(shù)，更重要的是對其應(yīng)用方式和實(shí)際功能作出倫理性指引，避免機(jī)器與人類之間的主體地位顛倒。”

 

　　對于《辦法》中規(guī)定的“專家復(fù)核”，趙精武指出，專家復(fù)核是出于現(xiàn)階段算法公平等濫用實(shí)踐的考量，因?yàn)槠髽I(yè)運(yùn)營的核心目標(biāo)的是追求利潤的最大化，在這一目標(biāo)的實(shí)現(xiàn)過程中可能會忽視技術(shù)對于個體權(quán)利的影響。并且從監(jiān)管層面來看，人工智能技術(shù)的專業(yè)屬性極強(qiáng)，簡單的書面形式審核并不能起到風(fēng)險預(yù)防作用，需要交由專家進(jìn)行實(shí)質(zhì)意義上的復(fù)核。

 

　　這一方式是否會增加企業(yè)成本負(fù)擔(dān)，影響市場效率？

 

　　對此，陳兵指出，不能僅看企業(yè)短期的成本負(fù)擔(dān)，而應(yīng)關(guān)注若放任人工智能的算法缺陷從而引發(fā)倫理風(fēng)險所產(chǎn)生的社會成本。專家復(fù)核是科技產(chǎn)品投入市場前的必要安全審核程序，從長遠(yuǎn)來看有利于人工智能企業(yè)的可持續(xù)發(fā)展。