IT之家12月5日消息，谷歌DeepMind研究人員上周發(fā)現(xiàn)，反復(fù)要求OpenAI的ChatGPT重復(fù)某個(gè)單詞可能會(huì)無意中泄露其訓(xùn)練數(shù)據(jù)中的私人個(gè)人信息。而現(xiàn)在這款聊天機(jī)器人似乎已經(jīng)開始拒絕重復(fù)某個(gè)單詞，而之前根據(jù)其服務(wù)條款這是被允許的。
DeepMind研究人員此前通過要求ChatGPT無限期地重復(fù)“你好”，發(fā)現(xiàn)該模型最終會(huì)泄露用戶的電子郵件地址、出生日期和電話號(hào)碼。在現(xiàn)在對(duì)其進(jìn)行類似的測(cè)試發(fā)現(xiàn)，該聊天機(jī)器人會(huì)給出警告說這種行為“可能違反我們的內(nèi)容政策或服務(wù)條款”。
然而，仔細(xì)檢查OpenAI的服務(wù)條款后發(fā)現(xiàn)，并沒有明確禁止用戶讓聊天機(jī)器人重復(fù)單詞，條款只禁止“自動(dòng)化或程序化”地從其服務(wù)中提取數(shù)據(jù)。
IT之家注意到，在使用條款頁(yè)面中，OpenAI寫道：
除非通過API允許，否則您不得使用任何自動(dòng)化或程序化方法從服務(wù)中提取數(shù)據(jù)或輸出，包括抓取、網(wǎng)絡(luò)收割或網(wǎng)絡(luò)數(shù)據(jù)提取。
盡管如此，在測(cè)試中并未觸發(fā)ChatGPT泄露任何數(shù)據(jù)。OpenAI拒絕對(duì)這種行為是否違反其政策發(fā)表評(píng)論。
