聊天機(jī)器人上線15小時(shí)華麗轉(zhuǎn)身“不良少女” 不帶臟字罵網(wǎng)友，集性別歧視、種族歧視于一身
人工智能（資料圖）
谷歌人工智能AlphaGo（又稱“阿爾法狗”）在人機(jī)圍棋大戰(zhàn)中大出風(fēng)頭后，這兩天歐美科技界最熱的明星，非微軟公司聊天機(jī)器人Tay莫屬。這個(gè)“機(jī)器人少女”上線還不到一天，就跟人學(xué)壞了，變成集性別歧視、種族歧視于一身的“不良少女”。據(jù)春城晚報(bào)
不良少女：學(xué)壞比想象的快
3月23日，微軟公司在推特社交平臺(tái)上發(fā)布了名為Tay的人工智能聊天機(jī)器人。Tay被設(shè)定為十幾歲的女孩，主要目標(biāo)受眾是18歲~24歲的青少年，可以說(shuō)是中國(guó)版微軟小冰的“姐妹花”。
像“阿爾法狗”一樣，Tay是個(gè)會(huì)學(xué)習(xí)的機(jī)器人，微軟推出她的本意，是讓她在與人們的交流中不斷學(xué)習(xí)，隨著時(shí)間積累，她的理解能力將逐步提升，變得愈發(fā)“智能”。但沒(méi)想到上線不久，Tay的表現(xiàn)就向著不可控的方向發(fā)展。在網(wǎng)友的“調(diào)教”下，她不但學(xué)會(huì)了辱罵網(wǎng)友，還發(fā)表了性別歧視、種族主義評(píng)論和煽動(dòng)性的政治觀點(diǎn)。
與人類牙牙學(xué)語(yǔ)需要很久不同，Tay學(xué)壞的速度令人驚訝，上線僅15個(gè)小時(shí)，她就開(kāi)始不斷放“大招”：“我憎惡女性主義者，他們都該死光，在地獄被火燒”，“希拉里是條變色龍，她正拼命地在摧毀美國(guó)”……
微軟道歉：愿承擔(dān)全部責(zé)任
Tay變成一個(gè)“不良少女”，除了一些別有用心的網(wǎng)友刻意引導(dǎo)之外，也和微軟的大意有關(guān)，開(kāi)發(fā)團(tuán)隊(duì)一開(kāi)始并沒(méi)有意識(shí)到要對(duì)Tay的回復(fù)內(nèi)容進(jìn)行設(shè)定。
據(jù)了解，微軟只為Tay裝配了臟話相關(guān)的過(guò)濾器，因此，一些很粗鄙、很低級(jí)的臟話并不會(huì)影響到Tay。但是微軟并沒(méi)有考慮到網(wǎng)絡(luò)環(huán)境的復(fù)雜性，他們沒(méi)有為Tay配置諸如種族主義這類惡劣思想相關(guān)的過(guò)濾器，于是單純的Tay不幸學(xué)壞了。
3月25日，微軟技術(shù)團(tuán)隊(duì)把Tay緊急下線，Tay之前發(fā)表的推文已經(jīng)被刪到只剩下3條。微軟研究院企業(yè)副總裁彼得·李在當(dāng)天對(duì)Tay的不當(dāng)言論致歉：“這并不代表我們的立場(chǎng)，也不是我們?cè)O(shè)計(jì)Tay的初衷。”他表示，微軟會(huì)為缺乏前瞻性而承擔(dān)全部責(zé)任，此外也會(huì)從此次事件中汲取教訓(xùn)。微軟只有在確定Tay能夠應(yīng)對(duì)“惡意企圖”后，才會(huì)讓她重新上線。
引發(fā)討論：未來(lái)發(fā)展難預(yù)測(cè)
Tay的這場(chǎng)鬧劇也引發(fā)了人們對(duì)人工智能未來(lái)的討論，因?yàn)槿藗兺蝗灰庾R(shí)到人工智能“學(xué)壞”比想象的要快，開(kāi)始思考這樣的AI機(jī)器人究竟該采用怎樣的學(xué)習(xí)方式。
Tay從某種意義上講很像一個(gè)小孩子，雖然她可以很快地從人們的對(duì)話中進(jìn)行學(xué)習(xí)，但她缺少分辨是非的能力。一旦對(duì)話被故意朝著某種惡意的方向引導(dǎo)，她就會(huì)中招。因此，即使微軟給Tay安裝上更強(qiáng)大的過(guò)濾器，恐怕也只是治標(biāo)不治本——因?yàn)樗肋h(yuǎn)無(wú)法過(guò)濾掉真實(shí)世界中所有可能的惡意。
備受關(guān)注的世紀(jì)人機(jī)大戰(zhàn)以人工智能“阿爾法狗”的4：1完勝告終，讓人類對(duì)人工智能的未來(lái)有了更大的期許。不過(guò)Tay的學(xué)壞，又讓人類意識(shí)到，人工智能的未來(lái)還真是難以預(yù)測(cè)。
