我國科學(xué)家牽頭進行的一項研究在“讓人工智能快速識別人類價值意圖”方面取得突破，可在復(fù)雜任務(wù)中提高人機協(xié)作效率，研究成果日前由國際學(xué)術(shù)期刊《科學(xué)·機器人學(xué)》在線發(fā)表。
科學(xué)家一直試圖讓人工智能學(xué)習(xí)人類的認知推理能力，進而學(xué)習(xí)理解人類的意圖，并執(zhí)行人類真正在意的價值需求，但目前廣泛應(yīng)用的人工智能系統(tǒng)只能機械地按照人類給定的任務(wù)行事。“如果一個任務(wù)的目標(biāo)可以被清晰地描述出來，那么讓人工智能理解任務(wù)背后的價值需求并不困難。”論文共同作者、北京通用人工智能研究院研究員鄭子隆解釋說，生活中充滿大量很難定義目標(biāo)的任務(wù)，例如，一杯咖啡在不同人心中意味著不同的飲料，當(dāng)人類用戶對人工智能說“我要一杯咖啡”時，需要人工智能搞清楚究竟要的是什么咖啡，也就是與人類“對齊價值”。
北京通用人工智能研究院教授朱松純團隊提出了一種基于即時雙向價值對齊模型的可解釋人工智能系統(tǒng)，并展示了機器人如何與人類用戶通過實時溝通完成一系列復(fù)雜的人機協(xié)作任務(wù)。
在該系統(tǒng)中，一組機器人可通過與人類實時溝通來快速推斷用戶的價值目標(biāo)，同時通過“解釋”將其決策過程傳達給用戶，讓用戶了解機器人作出判斷的價值依據(jù)。此外，該系統(tǒng)通過推測人類用戶的內(nèi)在價值偏好，可生成更容易理解的解釋。
