聊天機器人本身屬于一種服務(wù)，它能通過會話界面讓你與某種服務(wù)或公司互動。它屬于計算機程序中的計算機程序，可以與1個或多個人類用戶對話。聊天機器人有時候也被稱為虛擬助理或會話商務(wù)。當(dāng)Facebook在其4月份中旬舉行的F8大會上宣布，他們將向聊天機器人開放Messenger平臺時，我渴望嘗試它們的API（應(yīng)用程序接口）。為此，我在Facebook上創(chuàng)造了首批聊天機器人之一Mica, the Hipster Cat Bot，它絕對是奧地利首個Facebook Messenger和Skype聊天機器人。

 

 

　　然而，F(xiàn)acebook Messenger正被廣泛使用，但聊天機器人的成功卻引發(fā)問題：數(shù)據(jù)、消息應(yīng)用隱私以及聊天機器人都能保證安全嗎？在使用消息應(yīng)用過程中，我們通常都會分享個人數(shù)據(jù)。這些消息中含有許多隱私，消息應(yīng)用供應(yīng)商被期望應(yīng)該確保用戶數(shù)據(jù)隱私。此外，假設(shè)用戶與聊天機器人所有者之間的對話在未經(jīng)用戶同意下不會公開分享，那么平臺上的隱私安全如何保證？

 

　　在面臨廣泛互聯(lián)網(wǎng)監(jiān)控的現(xiàn)實中，我們需要安全而實用的手段，以確保在通過手機或電腦交流時的隱私安全。電子前沿基金會（EFF）推出了安全信息記分卡，以衡量“消息產(chǎn)品”的安全性。第一代的安全信息記分卡基于7個具體標(biāo)準(zhǔn)評估應(yīng)用和工具安全性，包括消息在傳輸過程中是否被加密、代碼最近是否被審核過等。對于某類工具來說，通過這些標(biāo)準(zhǔn)是確保信息與隱私安全所必須的，但它們卻無法保證應(yīng)用安全。因為安全是相當(dāng)困難和復(fù)雜的，其有些方面很難衡量。

 

　　令人感到欣慰的是，大多數(shù)消息應(yīng)用在傳輸信息過程中會加密信息。但有些應(yīng)用，比如Kik或Skype，最近代碼沒有經(jīng)過審核。有些消息應(yīng)用會向獨立評論家公開他們的源代碼。EFF分析的大多數(shù)消息應(yīng)用沒有辦法驗證聯(lián)系者的身份，只有Signal和WhatsApp提供這種功能。

 

　　有些消息應(yīng)用使用端對端加密，比如Signal和WhatsApp，這意味著平臺服務(wù)器不會閱讀用戶信息內(nèi)容。但有些消息應(yīng)用向聊天機器人提供API，比如Telegram、Skype、Facebook以及Kik等。通常情況下，擁有聊天機器人的支持，這些平臺提供商和聊天機器人提供商可以看到未經(jīng)加密的信息。唯一獲得EFF的A級安全評級的消息應(yīng)用就是Signal，而像Skype和Kik等被廣泛使用的應(yīng)用，評級都相當(dāng)糟。

 

　　2016年，Viber也在自己的服務(wù)中心添加端對端加密，但當(dāng)只有所有對話參與者都使用最新版本Viber時，它們的對話才被加密。谷歌最新AI消息應(yīng)用Allo也受到類似批評，它默認(rèn)關(guān)閉端對端加密功能。默認(rèn)安全是理想的，但自然語言處理功能會受到影響。

 

　　與此同時，針對聊天機器人的下個主流平臺的競爭已經(jīng)開始，F(xiàn)acebook、Skype以及Kik等都在競爭成為聊天機器人的重要生態(tài)系統(tǒng)。每個聊天機器人平臺都試圖提供易于集成聊天機器人的服務(wù)，以及最好的用戶體驗。paradox就是這類應(yīng)用，它主要處理私人和兩人間對話，現(xiàn)在聊天機器人正進(jìn)入這個領(lǐng)域。

 

　　聊天機器人正進(jìn)入個人與隱私通信領(lǐng)域，我們看到數(shù)據(jù)傳輸控制權(quán)正從用戶轉(zhuǎn)移到消息應(yīng)用供應(yīng)商手中。Facebook經(jīng)常因修改隱私政策而受到審查，包括其聊天應(yīng)用Messenger。你可通過Messenger呼叫Uber、購買玩具或機票，甚至直接在Messenger內(nèi)支付，但用戶的所有個人數(shù)據(jù)都暴露給Facebook。所有交易都被平臺服務(wù)器記錄下來，這些服務(wù)器監(jiān)督和記錄用戶與聊天機器人之間的通訊。

 

　　對于Facebook或谷歌來說，個人數(shù)據(jù)擁有非常高的價值，消息平臺最初并非專注于隱私而創(chuàng)建的。聊天機器人可以利用外部工具分析數(shù)據(jù)，以便適合自然語言處理和意圖理解。通常情況下，數(shù)據(jù)在發(fā)送給wit.ai、api.ai或IBM Watson等工具時并未加密，盡管其可通過HTTPS發(fā)送。這些基于云端的API處理用戶輸入以用于智能分析，可以分析你書寫的任何內(nèi)容，特別是處理敏感數(shù)據(jù)，比如財務(wù)賬戶信息或密碼等。

 

　　通常情況下，聊天機器人不太了解它們的用戶，只知道名字和屏幕上的名字，可能還有點兒其他數(shù)據(jù)。而通過消息平臺的API，你的所有數(shù)據(jù)都被發(fā)送給機器人。基于你發(fā)送給它們的數(shù)據(jù)，聊天機器人非常容易就能創(chuàng)造出用于研究的用戶特征。舉例來說，情感分析可通過計算識別和分類文本表達(dá)的情緒，以便用于確定文本作者對特定主題或產(chǎn)品的態(tài)度，包括積極、消極以及中性態(tài)度等。同樣的擔(dān)憂也適用于其他與聊天機器人相關(guān)的工具，比如語音-文本轉(zhuǎn)換器、圖像識別應(yīng)用、語言分析工具等。

 

　　但是也要考慮其他可能傾聽到你的對話的人。我的意思是，不僅僅聊天機器人開發(fā)者或項目經(jīng)理。當(dāng)前在聊天機器人和用戶之間的對話需要通過消息應(yīng)用的服務(wù)器傳輸，為此Facebook或谷歌也可能聽到你與聊天機器人的全部對話。此外，聊天機器人通常會儲存語境數(shù)據(jù)，比如地理位置或相關(guān)信息等。這可能包括電話號碼或其他私人數(shù)據(jù)，沒人知道這些數(shù)據(jù)在被儲存到數(shù)據(jù)庫前是否加密。

 

　　人們都在嘗試與聊天機器人更多交流，特別是青少年或老人。研究顯示，老年人感到孤獨時，更多與Siri聊天。用戶也傾向于與那些似乎沒有傾聽能力的聊天機器人聊天。當(dāng)約瑟夫·魏澤鮑姆（Joseph Weizenbaum）創(chuàng)造ELIZA時，當(dāng)他走進(jìn)房間時，他意識到有測試者感到羞愧。他說：“抱歉，我現(xiàn)在正與ELIZA聊天。”

 

　　另一個有趣的方面是，人們對機器人做出的情感反應(yīng)。他們喜歡聊天機器人，并告訴它們這一點?；蛘咚麄冊骱匏鼈儯㈤_始使用污言穢語?；谶@些數(shù)據(jù)，你可以創(chuàng)建聊天機器人的人格特征。為此，當(dāng)你與聊天機器人對話時，或你的數(shù)據(jù)透露給平臺時，請保持謹(jǐn)慎。