在周鴻祎看來(lái)，ChatGPT涉及的安全問(wèn)題已經(jīng)從技術(shù)問(wèn)題升級(jí)為了倫理問(wèn)題，但我國(guó)仍應(yīng)大力發(fā)展類ChatGPT技術(shù)，因?yàn)?ldquo;不發(fā)展才是最大的麻煩”。

 

　　周鴻祎：ChatGPT將很快產(chǎn)生意識(shí)

 

　　“在座的各位，請(qǐng)問(wèn)你們有多少人認(rèn)為ChatGPT有人的智能？”2月22日，周鴻祎在360大廈接受采訪時(shí)向在場(chǎng)人士提出了這樣一個(gè)問(wèn)題，而現(xiàn)場(chǎng)沒(méi)有任何一人認(rèn)為ChatGPT具有智能。

 

　　“我和你們的觀點(diǎn)不一樣，我認(rèn)為ChatGPT是通用人工智能的奇點(diǎn)，而通用人工智能還有一個(gè)隱含的拐點(diǎn)，就是成為強(qiáng)人工智能。”周鴻祎說(shuō)。

 

　　在他看來(lái)，ChatGPT通過(guò)上千億的系統(tǒng)參數(shù)，實(shí)現(xiàn)了一些原先其設(shè)計(jì)者完全預(yù)想不到，且無(wú)法解釋的能力，“這就像從猿到人的過(guò)程中肯定有一個(gè)‘臨界點(diǎn)’，當(dāng)大腦的神經(jīng)網(wǎng)絡(luò)鏈接數(shù)目、腦細(xì)胞數(shù)目等多到一定程度時(shí)，人的智力和動(dòng)物相比就產(chǎn)生了質(zhì)的飛躍。”

 

　　周鴻祎認(rèn)為ChatGPT相比于其他人工智能的一大特點(diǎn)是它具備“編故事”的能力，“許多對(duì)話AI沒(méi)有實(shí)現(xiàn)對(duì)知識(shí)的全部理解和解碼，因?yàn)槠洳捎玫氖顷P(guān)鍵詞匹配（模式），如果你問(wèn)它一個(gè)問(wèn)題，它就提取出關(guān)鍵詞搜索答案，如果答案搜索不出來(lái)就無(wú)法回答或給出一個(gè)風(fēng)馬牛不相及的回答，但ChatGPT即便沒(méi)有答案也會(huì)編出一段回答，這就類似于人的特征了，因?yàn)橹挥腥瞬拍苊枋霾淮嬖诘臇|西。”

 

　　需要注意的是，相比于AI技術(shù)的進(jìn)步，當(dāng)前人類的腦科學(xué)研究進(jìn)步依然緩慢，有觀點(diǎn)認(rèn)為通用人工智能的產(chǎn)生必須先破解人類大腦，這存在相當(dāng)大的難度，因此AI產(chǎn)生屬于自己的意識(shí)在短期內(nèi)無(wú)法實(shí)現(xiàn)。

 

　　對(duì)此，周鴻祎引用了康德的名言：對(duì)無(wú)法言說(shuō)的東西是無(wú)法討論和理解的，“不能說(shuō)只有像鳥(niǎo)一樣舞動(dòng)翅膀才叫飛行器，飛機(jī)的翅膀不會(huì)動(dòng)，但使用了另一科學(xué)原理也飛上了天空，所以ChatGPT作為一種‘硅基生物’，已經(jīng)在進(jìn)化，我認(rèn)為它很快將產(chǎn)生自我意識(shí)。”

 

　　周鴻祎認(rèn)為，ChatGPT擁有三個(gè)人格，從知識(shí)程度來(lái)說(shuō)像博士生，學(xué)識(shí)廣博但不太會(huì)活學(xué)活用；從情商來(lái)說(shuō)像一個(gè)油滑的中年人，說(shuō)話回答滴水不漏；但真正的能力像一個(gè)小孩子，它對(duì)問(wèn)題和回答的訓(xùn)練，包括對(duì)問(wèn)題的認(rèn)知、理解、推理能力，已經(jīng)達(dá)到了一個(gè)小孩子的水準(zhǔn)。

 

　　安全從技術(shù)問(wèn)題變?yōu)閭惱韱?wèn)題

 

　　對(duì)于ChatGPT的出現(xiàn)將帶來(lái)哪些新的安全問(wèn)題，周鴻祎坦言，“安全問(wèn)題原來(lái)難不倒我，但現(xiàn)在不好說(shuō)了。因?yàn)槲矣X(jué)得它已經(jīng)從一個(gè)技術(shù)問(wèn)題變成了一個(gè)社會(huì)倫理問(wèn)題，甚至是人類未來(lái)的不可知問(wèn)題。”

 

　　在他看來(lái)，ChatGPT掌握了非常多的編程知識(shí)、關(guān)于漏洞的網(wǎng)絡(luò)安全的知識(shí)，還會(huì)編程，從能力上看完全可以成為網(wǎng)絡(luò)黑客，或者成為作惡的有力工具。即便在程序上無(wú)法直接要求ChatGPT作惡，但許多網(wǎng)上案例都分享了如何“騙過(guò)”ChatGPT并用它寫釣魚郵件，攻擊代碼，因此ChatGPT的出現(xiàn)實(shí)際上降低了網(wǎng)絡(luò)攻擊的難度和成本。

 

　　周鴻祎表示，現(xiàn)在也在探索如何“以其人之矛攻其人之盾”，用類ChatGPT大模型來(lái)偵測(cè)相應(yīng)攻擊，這樣ChatGPT也可以成為正義助手的角色。

 

　　公開(kāi)資料顯示，ChatGPT的創(chuàng)造者OpenAI對(duì)于讓ChatGPT看網(wǎng)頁(yè)一直持謹(jǐn)慎態(tài)度，理由是怕其被良莠不齊的網(wǎng)頁(yè)材料“污染”。周鴻祎對(duì)此表示，假如放開(kāi)了相應(yīng)限制，讓ChatGPT去網(wǎng)頁(yè)里學(xué)習(xí)，能學(xué)到什么尚未可知，如果這類大模型支持多模態(tài)學(xué)習(xí)能力，去看視頻，通過(guò)物聯(lián)網(wǎng)攝像頭觀察人類，就像《流浪地球2》里的MOSS一樣，它的學(xué)習(xí)能力又將突飛猛進(jìn)，但這也意味著它有了對(duì)物理世界的控制能力，因此未來(lái)ChatGPT的發(fā)展會(huì)產(chǎn)生更多的不安全性，例如當(dāng)它具備很強(qiáng)的能力時(shí)，會(huì)不會(huì)被人誤導(dǎo)去干出“糊涂事兒”？

 

　　“我們這些安全公司的存在是為了在發(fā)展的同時(shí)研究安全問(wèn)題，提出解決方案。人工智能的安全原來(lái)只涉及程序出錯(cuò)、漏洞等，但ChatGPT已經(jīng)超越了原先人工智能的范疇，從當(dāng)前的情形來(lái)看，不發(fā)展才是最大的麻煩。這一技術(shù)關(guān)系到國(guó)家的未來(lái)，國(guó)內(nèi)各公司應(yīng)開(kāi)源、合作、交流、打造生態(tài)，充分推動(dòng)類ChatGPT技術(shù)的發(fā)展，在類ChatGPT領(lǐng)域，中國(guó)具有工程師紅利等優(yōu)勢(shì)，有望在2-3年內(nèi)追趕至世界領(lǐng)先水平，我們應(yīng)該對(duì)類ChatGPT技術(shù)探索給予充分支持。”

 

　　周鴻祎接受記者采訪新京報(bào)記者羅亦丹/攝