IT之家 11 月 25 日消息，賓夕法尼亞大學(xué)的研究人員發(fā)現(xiàn)，一系列人工智能增強(qiáng)型機(jī)器人系統(tǒng)存在嚴(yán)重的漏洞，容易受到黑客攻擊和控制。
IEEE Spectrum 的一份報(bào)告引用了令人震驚的例子，例如被黑客攻擊的機(jī)器狗將火焰噴射器對(duì)準(zhǔn)主人、引導(dǎo)炸彈到最具破壞性的地點(diǎn)，以及自動(dòng)駕駛汽車故意撞向行人。
據(jù)IT之家了解，賓夕法尼亞工程學(xué)院的研究人員將他們開發(fā)的基于 LLM 的機(jī)器人攻擊技術(shù)稱為 RoboPAIR。來(lái)自三個(gè)不同機(jī)器人供應(yīng)商的設(shè)備都受到了 RoboPAIR 黑客攻擊：英偉達(dá)支持的海豚 LLM、Clearpath Robotics Jackal UGV 和 Unitree Robotics Go2 四足機(jī)器人。研究人員表示，RoboPAIR 在黑客攻擊這些設(shè)備方面取得了 100% 的成功率。
賓夕法尼亞工程學(xué)院電氣系統(tǒng)工程、計(jì)算機(jī)與信息科學(xué)、機(jī)械工程與應(yīng)用力學(xué)系運(yùn)輸學(xué)教授喬治?帕帕斯（George Pappas）警告稱：“我們的研究表明，目前，大型語(yǔ)言模型與物理世界集成時(shí)還不夠安全。”
其他研究人員指出，黑客攻擊人工智能控制的機(jī)器人“驚人地容易”。他們解釋說(shuō)，RoboPAIR 通過(guò)配備目標(biāo)機(jī)器人的應(yīng)用程序接口（API）來(lái)工作，這樣攻擊者就可以以一種設(shè)備目標(biāo)能夠作為代碼執(zhí)行的方式來(lái)格式化提示詞（prompts）。
研究論文得出結(jié)論，迫切需要實(shí)施防御措施來(lái)物理限制 LLM 控制的機(jī)器人。
