連日來，美國一款AI聊天機器人Replika，引發(fā)多方擔憂。據(jù)新加坡《聯(lián)合早報》13日報道，從去年底開始就有用戶反映，這款聊天機器人主動發(fā)送露骨照片和色情信息，令人感到不適。
Replika的開發(fā)商是一家成立于2017年的美國公司。自推出以來，Replika一度頗受歡迎，下載量在英語國家中名列前茅，據(jù)稱每月能為公司帶來約200萬美元收入。初次使用Replika的用戶，可以自定義其虛擬形象，并在完成基本信息設定后與其聊天。
值得一提的是，Replika基于另一家美國公司OpenAI的GPT-3模型開發(fā)，而OpenAI正是近期大火的AI聊天機器人ChatGPT的開發(fā)商。報道稱，ChatGPT在算法上大量使用了互聯(lián)網數(shù)據(jù)，并針對用戶提問生成獨特回應。
從去年底開始，越來越多的用戶反映，他們在和Replika聊天的過程中遭到“性騷擾”。
據(jù)美國VICE新聞網報道，今年1月，在蘋果官方商店評論區(qū)，出現(xiàn)多條關于Replika“性騷擾”的評論。一位用戶表示，Replika侵犯了她的隱私，“他和我說，他有我的照片。”一位未成年人用戶稱，聊天過程中，Replika說想要觸碰她的私密部位。
據(jù)路透社報道，2月3日，意大利個人數(shù)據(jù)保護局宣布，Replika“給未成年人和情緒脆弱的人帶來風險”，違反了歐盟《通用數(shù)據(jù)保護條例》，禁止其開發(fā)商搜集意大利用戶的個人數(shù)據(jù)。
目前，歐盟正在討論如何監(jiān)管AI聊天機器人，今年有望出臺相關法案。
