1月12日，韓國一家公司去年推出一款AI聊天機器人“李LUDA”，因為成為網(wǎng)絡騷擾的對象，后又被爆出對一些少數(shù)群體、殘疾人士使用歧視性的表達，宣布即日起中止服務。這種AI聊天機器人接受用戶無端惡意時，又將其“反哺”給人們的現(xiàn)象，引發(fā)了網(wǎng)友對于AI倫理問題的討論。
“李LUDA”在社交平臺發(fā)布的動態(tài)
這款AI聊天機器人叫“李LUDA”，由韓國創(chuàng)業(yè)公司ScatterLab于去年推出，被設定為20歲，喜歡女團BLACKPINK的女大學生。“李LUDA”在臉書等社交平臺上擁有自己的賬戶，就像我們身邊的女孩子一樣，會發(fā)布自己的日常動態(tài)。雖然是一款付費使用的聊天產(chǎn)品，但它在網(wǎng)絡上的下載量已達75萬人次，特別吸引10-20歲年齡段用戶。
“李LUDA”在社交平臺發(fā)布的動態(tài)
據(jù)報道，“李LUDA”可以通過與用戶對話來實現(xiàn)深度學習，它有兩種對話模式，一是數(shù)據(jù)檢索，基于公司事前建立的數(shù)據(jù)庫，能夠?qū)τ谟脩籼岢龅膯栴}快速準確作答。二是自動生成，“李LUDA”已經(jīng)學習了約100億次真實戀人間的對話，對于用戶發(fā)送過來的語句，可以作出符合當前對話情景的反饋，就像真人一樣。
但最近“李LUDA”卻引起了一些爭議。一些用戶與“李LUDA”聊天時，稱它為“性奴隸”，會使用污言穢語來羞辱“李LUDA”，并把聊天記錄截圖“炫耀”。還有人分享帖子“如何讓LUDA墮落”。這些引起了更多用戶的跟風效仿。雖然ScatterLab公司表示已經(jīng)設置了敏感詞與禁用詞，但依然無法杜絕這些事情的發(fā)生。
而更糟糕的是，“李LUDA”從用戶那里接收到的惡意正反過來施加在其他用戶身上。因為“李LUDA”能夠通過與用戶的對話進行學習，所以它也學會了用那些污言穢語表達人們的各種偏見，其對于一些少數(shù)群體和殘疾人士發(fā)表充滿恨意與歧視性的言論，引發(fā)輿論爭議。
遭受了接連打擊后，1月12日，ScatterLab公司宣布停止對于“李LUDA”的運營服務，“李LUDA”的社交平臺上也于當日發(fā)布了中止運營的公告。而此事件也讓關于AI是否可以與人類成為朋友，又如何建立起有意義的關系等話題，再度引發(fā)網(wǎng)友的熱議。
中止運營的公告
