From： Fast Company； 作者：Iris
人工智能正以多種方式進入我們的生活——手機智能助手幫助我們完成一系列基礎任務，智能家電能自動打掃我們的房屋，地圖導航指揮著我們該駛向何方。隨著AI在日常生活中的重要性逐漸提高，關于人與機器之間的信任危機的問題又進入了大眾的視野：我們能信任它們嗎？我們怎么知道它們會準確地聽從指令并執(zhí)行任務？
可解釋性AI（XAI）是人工智能研究的一個分支，它的關注點在于如何提升人工智能之于人類的可信任度。要實現(xiàn)機器人和人一起和諧工作的愿景，可信度發(fā)揮著至關重要的作用。XAI便致力于開發(fā)讓人類感覺值得信賴的人工智能系統(tǒng)，以促進它們更好地融入人類社會。
從開瓶蓋入手
淺談機器人自我解釋能力
加州大學洛杉磯分校的研究團隊嘗試讓機器人向人類用戶解釋它的行動的內(nèi)容和目標，并證明這么做是有效的。有趣的是，可信賴度最高的智能自我解釋形式，與性能最佳的學習算法并不對應?？梢姡瑱C器人的性能和自我解釋的能力并不相同——我們不能只單獨優(yōu)化它的性能或自我解釋的能力。這要求在設計機器人的過程中既要考慮良好的性能，又要考慮到可信賴度高的自我解釋形式。
用戶演示、機器學習、任務表現(xiàn)和解釋能力的關系圖
機器人如何才能做到最高效率地執(zhí)行用戶指定的任務？用戶又應如何回應機器人的自我解釋行為呢？
為了回答這兩個問題，團隊決定做一個實驗，他們嘗試讓機器人學習如何擰開藥瓶的瓶蓋。實驗中，一個研究人員戴著一個有觸覺記憶系統(tǒng)的手套，當他打開瓶子時，手套會記錄下人手的姿勢和力量。這能幫助機器人通過象征性信息和觸覺信息來了解人類的行為。象征性信息是指有意義的行為動作，比如抓取的動作。觸覺信息指的是與身體姿勢和動作相關的感覺，例如手指合攏的感覺信息。
總結出的象征性信息（中間）和觸覺模型（底部）為機器人的動作提供解釋文本
機器人在吸收了象征性信息后，會對完成打開瓶子的任務所需的步驟序列進行編碼。在接觸觸覺信息后，機器人將形成一種觸覺模型，該模型幫助機器人“想象”著自己處于人類用戶的視角，并試著預測人類在這種場合會采取什么行動。
事實證明，當把象征性信息和觸覺信息結合在一起輸入系統(tǒng)時，機器人能夠達到自身的最佳性能。與單獨分開輸入這兩種信息相比，同時獲得這兩種信息的機器人在依照步驟來執(zhí)行任務和通過夾持器進行實時感知方面表現(xiàn)得更好。也就是說，要讓機器人高效率地執(zhí)行任務，共同輸入這兩項信息是必不可少的。
象征性信息的總結和語法符號推導過程示意圖
既然機器人能夠理解自己要做的任務，它又該怎么向人類用戶解釋它的行為呢？這種自我解釋真的能促進人類對機器人的信任嗎？
在實驗中，團隊為人類添加了自我解釋的流程：在機器人完成打開藥瓶的任務后，它需用文本記錄的形式提供了一個任務執(zhí)行總結。團隊邀請了150名參與者，分成五組，觀察機器人執(zhí)行打開藥瓶的任務的過程。
任務完成后，機器人給其中四組提供不同的任務解釋——基于象征性信息的解釋文本能詳細說明每個步驟的動作內(nèi)容，基于觸覺信息的解釋文本則著重于說明機械手臂夾持的位置和姿勢，總結性的解釋文本則將象征性信息和觸覺信息結合在一起，而第五組的參與者只能觀看機器人開瓶子的視頻，沒有得到任何文本反饋。
A）解釋面板實物；B）象征性解釋文本；C）觸覺說明文本；D）文字說明總結
團隊發(fā)現(xiàn)，同時提供象征性和觸覺信息的文本解釋最能培養(yǎng)機器人與人類之間的信任。有趣的是，完全基于觸覺信息的解釋文本在增強人機之間的信賴感方面并無貢獻，這表明人類更喜歡機器人逐步解釋它們工作的內(nèi)容。
為人機關系的未來而勉勵前行
這項研究最有趣的結果是，機器人的良好性能與讓它們博取人類信任的因素是完全不同的。這也突顯了未來人工智能和機器人研究領域的重要目標：專注于追求機器性能和自我解釋能力，而不厚己薄彼。
性能和自我解釋能力并非兩個可以實現(xiàn)互補的因素，因此在構建AI系統(tǒng)時，兩者都是需要著重考慮的首要目標。這項工作也是系統(tǒng)研究人機關系發(fā)展前景的關鍵環(huán)節(jié)，若研究人員能從中得出具有突破性的成就，那么，未來研究中更具挑戰(zhàn)性的一環(huán)將是從“我相信機器人做X”到“我相信機器人”。
機器人要想在人們的日常生活中占有一席之地，必須先獲得人類的信任。了解機器人如何提供有助于增進人類的信賴度的自我解釋文本，是使人類和機器人能夠共同工作、和睦相處的重要一步。
