英國《新科學(xué)家》10月31日文章，原題：隨著隱私擔(dān)憂加劇，我們能教會人工智能聊天機(jī)器人忘記嗎? 我在互聯(lián)網(wǎng)寫作已有二十多年。十幾歲時，我在博客上寫了一堆帖子，俗套的和尷尬的都有。如今，當(dāng)ChatGPT告訴我，這些帖子會是它獲取信息的素材時，我想趕緊從它的內(nèi)存中刪除關(guān)于我的數(shù)據(jù)。然而我很快發(fā)現(xiàn)，沒有刪除按鈕。不過，現(xiàn)在許多科學(xué)家正設(shè)法教人工智能忘記。
新一代人工智能聊天機(jī)器人的大部分學(xué)習(xí)數(shù)據(jù)是從互聯(lián)網(wǎng)上抓取的——從社交媒體帖子到大約25萬本書，以及幾乎所有公開的信息。它們可以預(yù)測句子中最有可能出現(xiàn)的下一個單詞，對我們的每一個提問給出流利的答案。問題在于，人工智能聊天機(jī)器人的工作方式意味著，當(dāng)它們學(xué)到一些東西時，就無法忘記。
澳大利亞聯(lián)邦科學(xué)與工業(yè)研究組織研究員大衛(wèi)·張表示，這種語言模型依據(jù)匯總的數(shù)據(jù)生成回答，因此不容易忘記或“刪除”特定的信息，甚至個人也無法準(zhǔn)確追蹤人工智能程序?qū)λ麄兊牧私?。他?qiáng)調(diào)，這將在隱私方面造成一個重大問題，人工智能公司遵守“被遺忘權(quán)”將非常困難。 歐盟在2014年提出“被遺忘權(quán)”。根據(jù)歐盟的通用數(shù)據(jù)保護(hù)條例，人們有權(quán)要求從網(wǎng)絡(luò)記錄中刪除他們的個人信息，比如撤回信息、刪除帖子，或要求網(wǎng)絡(luò)公司刪除關(guān)于他們的數(shù)據(jù)。但大衛(wèi)·張表示，這些解決方案與人工智能聊天機(jī)器人不兼容，“無法提供從模型記憶中刪除或忘記數(shù)據(jù)的方法”。
蘇黎世聯(lián)邦理工學(xué)院計算機(jī)科學(xué)家特拉梅爾表示，人工智能公司必須找到方法來處理這個問題，尤其是在大語言模型開始接受更敏感個人信息的培訓(xùn)之際，比如醫(yī)療數(shù)據(jù)和電郵等。人工智能也會被黑客植入代碼，以索要用戶賬戶密碼等信息。英國政府通信總部已呼吁關(guān)注這一問題。
人工智能公司目前依賴于“機(jī)器沉默”等方法阻止訪問某些信息并拒絕回應(yīng)。例如，當(dāng)我要求人工智能建立我的個人檔案時，它會說，“很抱歉我不能協(xié)助這個請求。”耶魯大學(xué)數(shù)字倫理中心主任弗洛里迪說，這種方法在一定程度上可行，但目標(biāo)數(shù)據(jù)仍然存在，如果出現(xiàn)故障或惡意干預(yù)，它就有可能在回應(yīng)中出現(xiàn)。
倫敦政治經(jīng)濟(jì)學(xué)院人工智能研究學(xué)者阿里·博伊爾表示，人類的健忘傾向通常被視為一種認(rèn)知故障，但有時是有益的，因為我們不需要記住我們學(xué)到的每一條信息。我們通過忘記某些事情，使檢索有用記憶的過程更有效。人工智能系統(tǒng)可能也是如此。博伊爾認(rèn)為，這一原理在2017年得到了證明，當(dāng)時谷歌人工智能實驗室開發(fā)了一種可以玩多款電子游戲的人工智能。它能夠?qū)⒂螒蛲娣ǖ挠洃泝Υ嫫饋恚员阋院蠡貞浐蛯W(xué)習(xí)。研究人員隨后對模型進(jìn)行了改進(jìn)，使其優(yōu)先存儲與回憶“令人驚訝”的玩法，忘記其余的數(shù)據(jù)，結(jié)果發(fā)現(xiàn)系統(tǒng)的性能有所提高。如果人工智能研究人員的最終目標(biāo)是建立像人類一樣學(xué)習(xí)和思考的系統(tǒng)，我們需要設(shè)計它們有選擇性地忘記。博伊爾說，遺忘不是一個設(shè)計缺陷，而是一個高效、功能良好的記憶系統(tǒng)的特征。（作者舒巴姆·阿加瓦爾，陳欣譯）
作者：舒巴姆·阿加瓦爾，陳欣譯
