圖說：人工智能安全領域三部曲采訪對象供圖（下同）
昨天，2022世界人工智能大會可信AI論壇在上海西岸美術館舉行。論壇匯聚全球頂尖AI智腦，共同探索多元化的落地措施，進一步推動可信AI產(chǎn)業(yè)持續(xù)發(fā)展。瑞萊智慧RealAI合伙人、高級副總裁朱萌表示，安全是第一準則，瑞萊智慧將持續(xù)構建安全、可靠、可控的人工智能基礎設施，為“可信AI”提供技術支撐，助力AI向“善”進化。
圖說：瑞萊智慧合伙人、高級副總裁朱萌
第二代AI遭遇“天花板”第三代AI探索“破局點”
自1956年達特茅斯會議誕生“人工智能”的概念后，AI歷經(jīng)了兩起兩落，才步入到當前的快速發(fā)展時期。每一輪技術周期浪潮迭起往往與技術創(chuàng)新緊密相連，第一代人工智能是知識驅動的符號推理，在上世紀七八十年代呈現(xiàn)高潮；之后，人工智能步入低谷；第二代人工智能是數(shù)據(jù)驅動的深度學習，在本世紀第二個十年高歌猛進。
但學界普遍認為，從應用的角度來看，以數(shù)據(jù)驅動的深度學習，其技術潛力已接近“天花板”。理由是，深度學習的本質是利用沒有加工處理過的數(shù)據(jù)用概率學習的“黑箱”處理方法尋找規(guī)律。這一方法本質上非常脆弱，帶來了新的風險和問題。如“對抗樣本攻擊”，通過在輸入數(shù)據(jù)中添加擾動，即可使系統(tǒng)作出錯誤判斷。
朱萌以瑞萊智慧團隊所做的研究成果舉例：在自動駕駛場景中，通過修改錐桶的形狀，就能讓汽車感知模塊失效，徑直撞上去；通過在T恤上打印含特殊的花紋，就能讓目標檢測系統(tǒng)捕捉不到穿這件衣服的人，實現(xiàn)“隱身”；制作帶有特制花紋的眼鏡，刷開數(shù)十部商用手機的人臉解鎖等。
在“信任危機”的籠罩之下，“安全、可信”已成為人工智能穩(wěn)健發(fā)展的主要抓手，也將逐步成為行業(yè)規(guī)范化、技術商業(yè)化的關鍵助推器。
中科院院士、清華大學人工智能研究院名譽院長、瑞萊智慧首席科學家張鈸提出“第三代人工智能”，持之以恒加強基礎研究，綜合運用知識、數(shù)據(jù)、算法、算力四個要素，在實現(xiàn)高水平安全的前提下，為人工智能高水平發(fā)展提供動力和支撐。
安全建設“三部曲”消弭人工智能“信任危機”
朱萌介紹，圍繞“高水平安全賦能高質量發(fā)展”目標，瑞萊智慧正在力爭奏好“三部曲”，致力于AI安全領域的三方面能力建設。首先是，發(fā)掘現(xiàn)有AI安全風險、預判AI潛在風險；二是針對風險建設治理體系，包括建立AI治理理論、構建治理運轉機制、探索技術實踐路徑等；三是在治理體系框架下，重點探尋倫理法規(guī)的技術落地方案。
“人工智能當前的安全風險主要可以從‘系統(tǒng)’與‘人’兩個視角來剖析。”朱萌認為，系統(tǒng)層面來看，以深度學習算法為核心的人工智能系統(tǒng)十分脆弱，其結構性漏洞致使“對抗樣本攻擊”不可避免，而其數(shù)據(jù)依賴性則使其存在“數(shù)據(jù)投毒”漏洞，出現(xiàn)“后門攻擊”。從“人”的層面來評估AI的可信問題，主要風險來自人的濫用、惡意應用，最為典型的就是深度合成技術。它大幅降低了信息生成合成的難度，但其負向應用已產(chǎn)生實質危害，甚至存在“武器化”風險。
針對這些風險，瑞萊智慧于今年6月成立了人工智能治理研究院，探尋從倫理法規(guī)到技術落地的人工智能治理實踐之路，主要開展四個方面工作：參與倫理規(guī)則建立、支撐立法工作、開展技術探索、建立從倫理法規(guī)到技術實踐的映射模型。
記者獲悉，瑞萊智慧搭建了系列安全可控新一代人工智能基礎設施，包括業(yè)內(nèi)首個針對AI系統(tǒng)的防火墻和殺毒軟件，提供模型安全性測評及安全加固的端到端解決方案；基于安全多方計算、聯(lián)邦學習、匿蹤查詢等技術打造的隱私保護計算平臺，通過打通數(shù)據(jù)孤島，將計算環(huán)節(jié)移動到數(shù)據(jù)端，實現(xiàn)數(shù)據(jù)安全和共享流通；用于快速、精準地對多種格式與質量的視頻和圖片進行真?zhèn)舞b別的深度偽造內(nèi)容檢測平臺等。
這系列平臺將從根本上增強人工智能的安全性、可靠性及可控性，目前已在政務、金融、工業(yè)互聯(lián)網(wǎng)等高價值場景中發(fā)揮了重大作用，成為AI縱深賦能的堅實基座。
