從 AlphaGo 開始步入人們視線，人工智能公司 DeepMind 的一舉一動總是飽受關注，而在去年，DeepMind 與英國國家醫(yī)療服務體系 NHS 旗下基金會 Royal Free London 簽訂了為期五年的合同，NHS 旗下的三家倫敦醫(yī)院將向 DeepMind 分享 172 萬患者的醫(yī)療數(shù)據(jù)。
這自然引發(fā)了對隱私問題的討論和擔憂，DeepMind 一直聲稱隱私與信任是它們首要考慮的問題，所有數(shù)據(jù)會被加密且不會與母公司谷歌分享，但依然有不少學者質疑 DeepMind 此言的真實性。
其中劍橋大學學者 Julia Powles 當屬反對聲音最激烈的一個，在與 Hal Hodson 合寫的一篇名為《Google DeepMind and healthcare in an age of algorithms》中，她質疑 DeepMind 在數(shù)據(jù)及隱私保護上的意愿。
在提及這一爭端之前，我們先和 AI 科技評論回顧一下 DeepMind 與 NHS 合作的大致過程。
在 2015 年 7 月，Royal Free London 旗下公立醫(yī)院的醫(yī)生與谷歌 DeepMind 公司開始有了初步接觸。值得一提的是，DeepMind 此前并沒有任何提供健康服務的經歷或經驗。
而在 2015 年 11 月，Royal Free 的一些敏感醫(yī)療數(shù)據(jù)就已經開始傳輸?shù)?DeepMind 的所持有的第三方服務器上。而 NHS 作為獲得 Royal Free 大量基金支持的英國國家醫(yī)療服務體系，自然也掌控著英國國民健康信息的大量數(shù)據(jù)。
隨后在 2016 年 1 月，DeepMind 公開宣布與 Royal Free 合作，將利用后者所提供的數(shù)據(jù)開發(fā)一款名為 Streams 的應用以輔助急性腎損傷 (AKI)。
2016 年 9 月，DeepMind 三大創(chuàng)始人之一 Mustafa Suleyman 與 Royal Free 的 Subir Mondal 簽署了一份八頁的信息共享協(xié)議（ISA），這份時效五年的協(xié)議顯示，Royal Free 是數(shù)據(jù)的實際控制方，而 DeepMind 只是一個數(shù)據(jù)處理方。
而在 2016 年 10 月，DeepMind 聲明公司將保護 Royal Free 患者的敏感數(shù)據(jù)，比如 AKI 的管理數(shù)據(jù)與直接護理內容，它們表示，這些數(shù)據(jù)的范圍比起協(xié)議中所約束的內容范圍只會更窄，不會更寬。谷歌也強調 DeepMind 只是在為控制腎臟疾病開發(fā)相關應用。
但這樣的聲明并不能讓 Julia Powles 滿意，她在報告中指出了 DeepMind 可能存在的三個問題：
首先是 DeepMind 是否可以被視為一個數(shù)據(jù)處理方，并直接對病人護理產生影響的問題。根據(jù) DeepMind 的官方資料顯示，Royal Free 至少有 26 名醫(yī)生及護士在使用 Streams，平均每天會向 11 個置身 AKI 風險的患者發(fā)出健康警報。
Powles 在報告中提到，「為何這樣一家由數(shù)據(jù)挖掘兼廣告巨頭谷歌全資擁有的 AI 公司，能夠構建一個以數(shù)據(jù)集成用戶為基礎的 App？不論是 DeepMind 還是 Royal Free London，都沒有對這個問題進行正面回答?！?/div>
其次，數(shù)據(jù)如何在法律保護下進行使用？目前所收集到的聲明都只是兩個合作機構的一面之詞，她并沒有了解到任何關于數(shù)據(jù)使用的監(jiān)督文件或是具有法律約束力的客觀文件。Powles 表示，公眾并沒有了解數(shù)據(jù)去向的渠道或權利，因此也無法得知他們所說的是否屬實。
第三點是，相關的設備及算法是否已經按照法規(guī)在監(jiān)管機構取得授權/許可？根據(jù) DeepMind 及 Royal Free 的聲明，它們采用的是一個為 AKI 服務的「國有算法」（national algorithm），它能夠對血液水平進行測試，并結合 Royal Free 的數(shù)據(jù)（已經在 DeepMind 存儲、利用及傳輸），決定是否需要向醫(yī)生的移動設備發(fā)送相關的健康警報。根據(jù) Powles 的了解，DeepMind 并沒有獲得研究批準機構（HRA）或是保密咨詢機構（CAG）的授權和許可。
作為回應，DeepMind 與 Royal Free 聯(lián)合發(fā)表了一項聲明，指出 Julia Powles 的這篇報告「完全歪曲了 NHS 如何利用技術處理數(shù)據(jù)的事實。」
「這篇文章犯了一系列重大的事實和分析錯誤，而且臆想我們并沒有簽署類似的數(shù)據(jù)協(xié)議。……事實上，該國的每一個信托機構都會根據(jù)同樣的法律與監(jiān)管制度，使用 IT 系統(tǒng)幫助臨床醫(yī)生獲取患者的以往及當前的信息。"
看熱鬧不嫌事大的 BBC 記者 Jane Wakefield 還邀請雙方在一個公開場合進行回應，并表示，「自然，我們非常關心谷歌與 DeepMind 進軍醫(yī)療領域，畢竟它此前并沒有涉足過，此外，這些公司并不屬于傳統(tǒng)專業(yè)的衛(wèi)生信息技術與基礎設施提供商，這些舉動如果不加以澄清和說明，無疑會傷害公眾的感情。」
不可否認的是，NHS 的確曾與一些第三方企業(yè)簽署了一系列信息共享協(xié)議，DeepMind 此前曾經推測協(xié)議的款項達到 1500 項，但 NHS 只是表示并不準確，但沒有給出更詳細的數(shù)據(jù)。
根據(jù)了解，目前該應用主要是由英國信息辦公室（ICO，Information Commissioner's Office）進行調查，而國立數(shù)據(jù)監(jiān)管機構（NDG）也對數(shù)據(jù)進行監(jiān)控。ICO 最近則表示，他們的調查已經接近尾聲，并聲稱會和 NDG 繼續(xù)保持合作，與 Royal Free 及 DeepMind 進行定期聯(lián)絡，要求獲得 Stream 的開發(fā)信息。
DeepMind 在 2 月份也已經表示，坦承希望與患者建立更友好的聯(lián)系，并愿意設立相關的討論社區(qū)。它在一項關于患者參與 Streams 項目的戰(zhàn)略文件中也提及，「如果患者與醫(yī)生能夠協(xié)商做出決策，效果會變得更好。」
更多>相關資訊
0 條相關評論
