中新網北京8月1日電(林依張素)近日在北京舉行的一場論壇上，新加坡管理大學教授RobertH.Deng、美國加州大學伯克利分校電子工程和計算科學系教授宋曉東等學者紛紛聚焦于人工智能技術的演進方向，并在演講中提出，當前“存在輸入攻擊、投毒攻擊等安全隱患”，人工智能安全規(guī)范和標準的制定及落實是當務之急。
2022全球數字經濟大會人工智能驅動未來產業(yè)論壇舉辦期間，圍繞人工智能安全與健康可持續(xù)發(fā)展的話題廣受關注。RobertH.Deng與宋曉東分別就“基于人工智能安全的發(fā)展戰(zhàn)略研究”“有責可信可控的AI安全體系”等主題發(fā)表演講。
北京市經濟和信息化局局長張勁松在致辭時表示，北京市正在探索建立人工智能融合應用安全風險治理體系，指導開展安全風險評估，提升風險管理能力，同時加快推進人工智能數據治理工作，強化人工智能數據資源的高質量建設、高水平開放與高水平利用，助力構筑北京人工智能安全生態(tài)。
在瑞萊智慧合伙人、高級副總裁朱萌看來，構建人工智能安全發(fā)展規(guī)范已迎來關鍵窗口期，“安全可控”成為亟待補全的基礎能力。她進一步提出，包括解決數據強依賴帶來的隱私泄露等隱患，提升算法的可靠性，保證系統(tǒng)有意攻擊情況下依然穩(wěn)定運行，以及深度合成技術應用的合規(guī)可控等方面。
論壇舉辦期間，北京人工智能產業(yè)聯(lián)盟和集智未來聯(lián)合發(fā)布“北京國家人工智能創(chuàng)新應用先導區(qū)示范案例”，集中展示了北京國家人工智能創(chuàng)新應用先導區(qū)建設成果。這其中有瑞萊智慧人工智能安全平臺RealSafe，也被稱為“針對AI系統(tǒng)的‘殺毒軟件’”。
朱萌介紹說，RealSafe支持針對對抗樣本攻擊、模型后門攻擊兩類安全風險的檢測，提供被測AI模型的安全評分、風險報告，以及多種縱深防御方案。她還透露，針對人工智能領域新的安全問題和行業(yè)需求，作為清華大學人工智能研究院發(fā)起設立的AI企業(yè)，他們憑借自身的科研成果和行業(yè)落地經驗，正在隱私計算、AI數字人、“AI換臉”檢測等方面展開新的探索。(完)
