“原來機(jī)器人永遠(yuǎn)不要傷害人類的原則，現(xiàn)在看來已經(jīng)被打破。所以，我們建議應(yīng)該把AI最后的決定權(quán)交給人類，讓人來做最后的控制，而不是完全讓AI做自動的判斷、自動的決策。”7月27日，由中國互聯(lián)網(wǎng)協(xié)會指導(dǎo)、微博和新浪新聞主辦的人工智能領(lǐng)域峰會新智者大會在京順利召開。三六零集團(tuán)創(chuàng)始人周鴻祎出席大會并發(fā)表主題演講。
他指出，面對人工智能帶來各種復(fù)雜安全挑戰(zhàn)，網(wǎng)絡(luò)安全行業(yè)應(yīng)當(dāng)被重新定義，將計(jì)算機(jī)安全、網(wǎng)絡(luò)安全升維到數(shù)字安全。其中，《國家安全戰(zhàn)略（2021年-2025年）》明確提出加快提升網(wǎng)絡(luò)安全、數(shù)據(jù)安全、人工智能安全等領(lǐng)域的治理能力，這也是國家戰(zhàn)略層面首次提出人工智能安全的概念，說明人工智能安全是數(shù)字安全的一部分。
演講中，周鴻祎指出AI已應(yīng)用在戰(zhàn)爭中，不傷人原則已被打破。今年俄烏沖突中，烏克蘭軍隊(duì)就使用了美國的彈簧刀無人機(jī)，該無人機(jī)具備監(jiān)視、偵察和打擊功能，在AI的加持下，單兵就能熟練掌握。“從人下指令，到AI自動識別、自動判斷、自主發(fā)起攻擊，我覺得就是一層薄薄的窗戶紙。所以把AI武器最后的決定權(quán)交給人類，讓人來做最后的控制至關(guān)重要。人工智能最后的底線必須是人。”周鴻祎說道。
除應(yīng)用于戰(zhàn)場上外，人工智能安全也面臨著七重挑戰(zhàn)，包括：硬件、軟件、通信協(xié)議、算法、數(shù)據(jù)、應(yīng)用和社會倫理。周鴻祎指出經(jīng)典的“電車難題”就是很好的例證。面對電車選擇難題，AI程序該如何來做出判斷。與此同時，如果出了車禍，這個責(zé)任到底該誰來負(fù)？應(yīng)該算AI的？算車廠的？還是算駕駛員的？這些AI安全問題，目前都還沒有明確答案。
然而，風(fēng)險與機(jī)遇并存。對于人工智能的風(fēng)險與積極作用，周鴻祎認(rèn)為需辯證對待。在此方面，360一直高度重視人工智能安全，率先布局構(gòu)建起人工智能安全能力體系。360不僅對自身積累的全球最大的安全大數(shù)據(jù)進(jìn)行AI分析，形成了360云端安全大腦的原型，為行業(yè)或企業(yè)提供強(qiáng)大的數(shù)據(jù)和情報(bào)支撐；同時積極承擔(dān)“安全大腦國家新一代人工智能開放創(chuàng)新平臺”的建設(shè)；此外還牽頭研發(fā)的“人工智能安全測評與風(fēng)險監(jiān)測預(yù)警平臺”入選工信部“人工智能產(chǎn)業(yè)創(chuàng)新任務(wù)揭榜單位”名單，有效夯實(shí)了人工智能安全的底座。
值得關(guān)注的是，周鴻祎還直言僅靠一家企業(yè)不能解決所有威脅，需要注重生態(tài)合作，并表示作為中國數(shù)字安全的領(lǐng)軍企業(yè)，360愿意開放自身安全大數(shù)據(jù)，將產(chǎn)學(xué)研力量聯(lián)合起來，共建AI安全生態(tài)，集中推動數(shù)字安全的創(chuàng)新。
