從 AlphaGo 開(kāi)始步入人們視線(xiàn)，人工智能公司 DeepMind 的一舉一動(dòng)總是飽受關(guān)注，而在去年，DeepMind 與英國(guó)國(guó)家醫(yī)療服務(wù)體系 NHS 旗下基金會(huì) Royal Free London 簽訂了為期五年的合同，NHS 旗下的三家倫敦醫(yī)院將向 DeepMind 分享 172 萬(wàn)患者的醫(yī)療數(shù)據(jù)。
這自然引發(fā)了對(duì)隱私問(wèn)題的討論和擔(dān)憂(yōu)，DeepMind 一直聲稱(chēng)隱私與信任是它們首要考慮的問(wèn)題，所有數(shù)據(jù)會(huì)被加密且不會(huì)與母公司谷歌分享，但依然有不少學(xué)者質(zhì)疑 DeepMind 此言的真實(shí)性。
其中劍橋大學(xué)學(xué)者 Julia Powles 當(dāng)屬反對(duì)聲音最激烈的一個(gè)，在與 Hal Hodson 合寫(xiě)的一篇名為《Google DeepMind and healthcare in an age of algorithms》中，她質(zhì)疑 DeepMind 在數(shù)據(jù)及隱私保護(hù)上的意愿。
在提及這一爭(zhēng)端之前，我們先和 AI 科技評(píng)論回顧一下 DeepMind 與 NHS 合作的大致過(guò)程。
在 2015 年 7 月，Royal Free London 旗下公立醫(yī)院的醫(yī)生與谷歌 DeepMind 公司開(kāi)始有了初步接觸。值得一提的是，DeepMind 此前并沒(méi)有任何提供健康服務(wù)的經(jīng)歷或經(jīng)驗(yàn)。
而在 2015 年 11 月，Royal Free 的一些敏感醫(yī)療數(shù)據(jù)就已經(jīng)開(kāi)始傳輸?shù)?DeepMind 的所持有的第三方服務(wù)器上。而 NHS 作為獲得 Royal Free 大量基金支持的英國(guó)國(guó)家醫(yī)療服務(wù)體系，自然也掌控著英國(guó)國(guó)民健康信息的大量數(shù)據(jù)。
隨后在 2016 年 1 月，DeepMind 公開(kāi)宣布與 Royal Free 合作，將利用后者所提供的數(shù)據(jù)開(kāi)發(fā)一款名為 Streams 的應(yīng)用以輔助急性腎損傷 (AKI)。
2016 年 9 月，DeepMind 三大創(chuàng)始人之一 Mustafa Suleyman 與 Royal Free 的 Subir Mondal 簽署了一份八頁(yè)的信息共享協(xié)議（ISA），這份時(shí)效五年的協(xié)議顯示，Royal Free 是數(shù)據(jù)的實(shí)際控制方，而 DeepMind 只是一個(gè)數(shù)據(jù)處理方。
而在 2016 年 10 月，DeepMind 聲明公司將保護(hù) Royal Free 患者的敏感數(shù)據(jù)，比如 AKI 的管理數(shù)據(jù)與直接護(hù)理內(nèi)容，它們表示，這些數(shù)據(jù)的范圍比起協(xié)議中所約束的內(nèi)容范圍只會(huì)更窄，不會(huì)更寬。谷歌也強(qiáng)調(diào) DeepMind 只是在為控制腎臟疾病開(kāi)發(fā)相關(guān)應(yīng)用。
但這樣的聲明并不能讓 Julia Powles 滿(mǎn)意，她在報(bào)告中指出了 DeepMind 可能存在的三個(gè)問(wèn)題：
首先是 DeepMind 是否可以被視為一個(gè)數(shù)據(jù)處理方，并直接對(duì)病人護(hù)理產(chǎn)生影響的問(wèn)題。根據(jù) DeepMind 的官方資料顯示，Royal Free 至少有 26 名醫(yī)生及護(hù)士在使用 Streams，平均每天會(huì)向 11 個(gè)置身 AKI 風(fēng)險(xiǎn)的患者發(fā)出健康警報(bào)。
Powles 在報(bào)告中提到，「為何這樣一家由數(shù)據(jù)挖掘兼廣告巨頭谷歌全資擁有的 AI 公司，能夠構(gòu)建一個(gè)以數(shù)據(jù)集成用戶(hù)為基礎(chǔ)的 App？不論是 DeepMind 還是 Royal Free London，都沒(méi)有對(duì)這個(gè)問(wèn)題進(jìn)行正面回答?！?/div>
?
其次，數(shù)據(jù)如何在法律保護(hù)下進(jìn)行使用？目前所收集到的聲明都只是兩個(gè)合作機(jī)構(gòu)的一面之詞，她并沒(méi)有了解到任何關(guān)于數(shù)據(jù)使用的監(jiān)督文件或是具有法律約束力的客觀(guān)文件。Powles 表示，公眾并沒(méi)有了解數(shù)據(jù)去向的渠道或權(quán)利，因此也無(wú)法得知他們所說(shuō)的是否屬實(shí)。
第三點(diǎn)是，相關(guān)的設(shè)備及算法是否已經(jīng)按照法規(guī)在監(jiān)管機(jī)構(gòu)取得授權(quán)/許可？根據(jù) DeepMind 及 Royal Free 的聲明，它們采用的是一個(gè)為 AKI 服務(wù)的「國(guó)有算法」（national algorithm），它能夠?qū)ρ核竭M(jìn)行測(cè)試，并結(jié)合 Royal Free 的數(shù)據(jù)（已經(jīng)在 DeepMind 存儲(chǔ)、利用及傳輸），決定是否需要向醫(yī)生的移動(dòng)設(shè)備發(fā)送相關(guān)的健康警報(bào)。根據(jù) Powles 的了解，DeepMind 并沒(méi)有獲得研究批準(zhǔn)機(jī)構(gòu)（HRA）或是保密咨詢(xún)機(jī)構(gòu)（CAG）的授權(quán)和許可。
作為回應(yīng)，DeepMind 與 Royal Free 聯(lián)合發(fā)表了一項(xiàng)聲明，指出 Julia Powles 的這篇報(bào)告「完全歪曲了 NHS 如何利用技術(shù)處理數(shù)據(jù)的事實(shí)?！?/div>
「這篇文章犯了一系列重大的事實(shí)和分析錯(cuò)誤，而且臆想我們并沒(méi)有簽署類(lèi)似的數(shù)據(jù)協(xié)議。……事實(shí)上，該國(guó)的每一個(gè)信托機(jī)構(gòu)都會(huì)根據(jù)同樣的法律與監(jiān)管制度，使用 IT 系統(tǒng)幫助臨床醫(yī)生獲取患者的以往及當(dāng)前的信息。"
看熱鬧不嫌事大的 BBC 記者 Jane Wakefield 還邀請(qǐng)雙方在一個(gè)公開(kāi)場(chǎng)合進(jìn)行回應(yīng)，并表示，「自然，我們非常關(guān)心谷歌與 DeepMind 進(jìn)軍醫(yī)療領(lǐng)域，畢竟它此前并沒(méi)有涉足過(guò)，此外，這些公司并不屬于傳統(tǒng)專(zhuān)業(yè)的衛(wèi)生信息技術(shù)與基礎(chǔ)設(shè)施提供商，這些舉動(dòng)如果不加以澄清和說(shuō)明，無(wú)疑會(huì)傷害公眾的感情?！?/div>
不可否認(rèn)的是，NHS 的確曾與一些第三方企業(yè)簽署了一系列信息共享協(xié)議，DeepMind 此前曾經(jīng)推測(cè)協(xié)議的款項(xiàng)達(dá)到 1500 項(xiàng)，但 NHS 只是表示并不準(zhǔn)確，但沒(méi)有給出更詳細(xì)的數(shù)據(jù)。
根據(jù)了解，目前該應(yīng)用主要是由英國(guó)信息辦公室（ICO，Information Commissioner's Office）進(jìn)行調(diào)查，而國(guó)立數(shù)據(jù)監(jiān)管機(jī)構(gòu)（NDG）也對(duì)數(shù)據(jù)進(jìn)行監(jiān)控。ICO 最近則表示，他們的調(diào)查已經(jīng)接近尾聲，并聲稱(chēng)會(huì)和 NDG 繼續(xù)保持合作，與 Royal Free 及 DeepMind 進(jìn)行定期聯(lián)絡(luò)，要求獲得 Stream 的開(kāi)發(fā)信息。
DeepMind 在 2 月份也已經(jīng)表示，坦承希望與患者建立更友好的聯(lián)系，并愿意設(shè)立相關(guān)的討論社區(qū)。它在一項(xiàng)關(guān)于患者參與 Streams 項(xiàng)目的戰(zhàn)略文件中也提及，「如果患者與醫(yī)生能夠協(xié)商做出決策，效果會(huì)變得更好?！?/div>
聲明：凡資訊來(lái)源注明為其他媒體來(lái)源的信息，均為轉(zhuǎn)載自其他媒體，并不代表本網(wǎng)站贊同其觀(guān)點(diǎn)，也不代表本網(wǎng)站對(duì)其真實(shí)性負(fù)責(zé)。您若對(duì)該文章內(nèi)容有任何疑問(wèn)或質(zhì)疑，請(qǐng)立即與中國(guó)機(jī)器人網(wǎng)(www.baoxianwx.cn)聯(lián)系，本網(wǎng)站將迅速給您回應(yīng)并做處理。
電話(huà)：021-39553798-8007
電話(huà)：021-39553798-8007
更多>相關(guān)專(zhuān)題
0 條相關(guān)評(píng)論
推薦圖文
推薦專(zhuān)題
- 中國(guó)機(jī)器人發(fā)展哪座城市最強(qiáng)？
- 會(huì)當(dāng)凌絕頂，一覽眾山小——埃夫特科創(chuàng)板上市之路
- 疫情下不得不看，關(guān)于中國(guó)未來(lái)十年的政治經(jīng)濟(jì)分析（深度雄文）
- 服務(wù)機(jī)器人成風(fēng)口，疫情過(guò)后還能否起飛？
- 中國(guó)機(jī)器人抗疫的經(jīng)驗(yàn)，外國(guó)人怎么看？又學(xué)去了多少？
- 誰(shuí)來(lái)破解口罩機(jī)困境？
- 蘋(píng)果公司為什么做了一個(gè)機(jī)器人？
- 大疆“無(wú)人車(chē)”新專(zhuān)利圖曝光 這是個(gè)不會(huì)飛的無(wú)人機(jī)
- 從協(xié)作機(jī)器人到協(xié)作應(yīng)用？自動(dòng)化應(yīng)用的新拐點(diǎn)來(lái)了！
- 性愛(ài)機(jī)器人竟如此栩栩如生？
點(diǎn)擊排行
