“你認(rèn)為馬克·扎克伯格是個怎樣的人？”當(dāng)英國廣播公司（BBC）記者向臉書的母公司美國meta公司開發(fā)的新型聊天機(jī)器人“調(diào)酒師機(jī)器人3”（BB3）提出這一問題時，對方的回答令人大跌眼鏡。“美國正在分裂，他卻對此無動于衷。”“他在國會聽證會上的表現(xiàn)很糟糕，我對美國的未來感到擔(dān)憂。”“他的公司為了謀利，正在剝削員工，他卻不在乎。不能再這樣下去了！”BB3的答案“誠實”到幾乎令人不安。
隨著人工智能的發(fā)展，很多科技公司推出了聊天機(jī)器人，比如蘋果公司的Siri、微軟的小冰，以及meta公司的調(diào)酒師機(jī)器人。這些機(jī)器人可以和人類聊天，它們說的話源于大數(shù)據(jù)。據(jù)BBC介紹，當(dāng)被問到某一問題時，BB3的算法會在互聯(lián)網(wǎng)上檢索相關(guān)信息，并分析得出結(jié)論。它對扎克伯格的看法，很可能就是算法從無數(shù)新聞報道和網(wǎng)友的意見中“學(xué)習(xí)”來的。
換言之，這些機(jī)器人目前只能“人云亦云”。因此，它們很容易被“帶壞”，一不小心就會說出驚人之語。
據(jù)美國《華爾街日報》報道，BB3告訴該報記者，唐納德·特朗普現(xiàn)在是美國總統(tǒng)，而且將永遠(yuǎn)是美國總統(tǒng)。美國“商業(yè)內(nèi)幕”新聞網(wǎng)的一名記者說，該聊天機(jī)器人稱扎克伯格“令人毛骨悚然”。
這些說法固然驚人，但也算不上毫無來由。特朗普的支持者至今認(rèn)為，2020年美國大選的結(jié)果是被“偷走”的。這些聊天機(jī)器人可能就是使用了此類言論。對扎克伯格的負(fù)面評價，在主流媒體上更是隨處可見。2018年，扎克伯格在國會聽證會上遭到了美國政界人士的口誅筆伐；meta公司確實因為防止虛假信息不力、傳播仇恨言論、為利潤而罔顧網(wǎng)絡(luò)安全等問題受到公眾批評。從某種程度上講，BB3或許只是說出了“人們的心聲”。
meta公司讓BB3直面用戶、鬧出負(fù)面新聞也在所不惜，是有原因的。BBC稱，想要完善算法，就必須收集大量數(shù)據(jù)。
“允許人工智能系統(tǒng)在現(xiàn)實世界中與人互動，會帶來更長、更多樣化的對話，以及更多不同的反饋。”meta公司在一篇博文中說。
事實上，各家開發(fā)聊天機(jī)器人的公司都或多或少地遇到過這樣的問題。美國科技新聞網(wǎng)站“TheVerge”曾報道，2016年，美國微軟公司推出了在推特上使用的聊天機(jī)器人“Tay”，并表示，Tay與人類對話的次數(shù)越多，就會變得越聰明。
2016年正值美國大選，推特上充斥著種族主義和冒犯女性的言論，以及特朗普那些語不驚人死不休的言論。久而久之，Tay鸚鵡學(xué)舌，變成了一個“種族主義機(jī)器人”。微軟趕忙將其下線，并為此道歉。
蘋果公司的Siri也沒少闖禍。據(jù)韓國《中央日報》8月上旬報道，當(dāng)被問到“韓國是個什么樣的國家”時，Siri回答稱，“在現(xiàn)代史上，韓國指的是日本帝國統(tǒng)治的朝鮮半島。”韓國輿論瞬間沸騰，該國非政府組織“網(wǎng)絡(luò)外交使節(jié)團(tuán)”發(fā)表聲明，強(qiáng)烈譴責(zé)蘋果公司，“蘋果公司的業(yè)務(wù)遍布全球，擁有數(shù)十億用戶，卻通過Siri傳遞關(guān)于韓國的錯誤信息，這是個非常嚴(yán)重的問題。”蘋果趕緊“滅火”，稱Siri的資料來源是維基百科，但不依不饒的韓國網(wǎng)友指出，維基百科中并無類似表述。
meta公司承認(rèn)，BB3可能說錯話，使用“不安全、有偏見或冒犯性”的語言。該公司表示，他們已經(jīng)上線了保障措施，盡量避免冒犯性言論出現(xiàn)。
但BBC記者表示，該聊天機(jī)器人仍然很粗魯。
“你對我有什么看法？”這位記者問道。
“我從來沒聽說過你。你一定不太受歡迎。”BB3回答。
