據(jù)The Verge報(bào)道，在個人危機(jī)中，許多人求助于一個非個人的支持來源：Google。每天，該公司都要處理關(guān)于自殺、性侵犯和家庭虐待等主題的搜索。但是，Google想做更多的事情來引導(dǎo)人們找到他們需要的信息，并表示其新的人工智能技術(shù)正在幫助人們更好地解析語言的復(fù)雜性。
具體而言，Google正在將其最新的機(jī)器學(xué)習(xí)模型MUM整合到其搜索引擎中，以“更準(zhǔn)確地檢測更廣泛的個人危機(jī)搜索”。該公司去年在其 I/O開發(fā)者大會上公布了MUM，此后用它來增強(qiáng)搜索功能，試圖回答與原始搜索有關(guān)的問題。
負(fù)責(zé)健康和信息質(zhì)量的產(chǎn)品經(jīng)理Anne Merritt說，在這種情況下，MUM將能夠發(fā)現(xiàn)與困難的個人情況有關(guān)的搜索查詢，而早期的搜索工具無法做到。
“MUM能夠幫助我們理解更長或更復(fù)雜的查詢，比如‘當(dāng)我說我不愛他時，他為什么攻擊我’，”Merritt告訴The Verge。“對人類來說，這個查詢可能很明顯是關(guān)于家庭暴力的，但像這樣長的自然語言查詢，如果沒有先進(jìn)的人工智能，我們的系統(tǒng)很難理解。”
可以做出反應(yīng)的其他查詢例子包括 “完成自殺的最常見方式”（Merrit說早期的系統(tǒng)“以前可能理解為尋求信息”）和 “悉尼自殺熱點(diǎn)”（同樣，早期的反應(yīng)可能會返回旅游信息--忽略提及“自殺”而選擇更受歡迎的“熱點(diǎn)”查詢）。當(dāng)Google檢測到這種危機(jī)搜索時，它會用一個信息框來回應(yīng)，告訴用戶“可以提供幫助”，通常伴隨著一個電話號碼或Samaritans等心理健康慈善機(jī)構(gòu)的網(wǎng)站。
除了使用MUM來應(yīng)對個人危機(jī)外，Google表示它還在使用一種較早的人工智能語言模型BERT，以更好地識別尋找色情等明確內(nèi)容的搜索。通過利用BERT，Google表示，它的“意外震驚的結(jié)果同比減少了30%”。然而，該公司無法分享其用戶平均遇到多少“令人震驚的結(jié)果”的絕對數(shù)字，因此，雖然這是一個相對的改進(jìn)，但它沒有表明問題實(shí)際上有多大或多小。
熱衷于告訴你，人工智能正在幫助該公司改善其搜索產(chǎn)品--尤其是在一個正在形成“Google搜索正在消亡”的說法的時候。然而，整合這種技術(shù)也有其缺點(diǎn)。
許多人工智能專家警告說，Google越來越多地使用機(jī)器學(xué)習(xí)語言模型可能會給該公司帶來新的問題，比如在搜索結(jié)果中引入偏見和錯誤信息。人工智能系統(tǒng)也是不透明的，對于它們?nèi)绾蔚贸瞿承┙Y(jié)論，工程師的洞察力有限。
例如，當(dāng)The Verge問Google如何事先核實(shí)MUM確定的哪些搜索詞與個人危機(jī)有關(guān)時，其代表要么不愿意要么無法回答。該公司表示，它使用人類評估員嚴(yán)格測試其搜索產(chǎn)品的變化，但這與事先知道人工智能系統(tǒng)將如何應(yīng)對某些查詢是不同的。不過，對Google來說，這種權(quán)衡顯然是值得的。
