人工智能技術(shù)的發(fā)展對(duì)人類主體性是強(qiáng)化還是弱化？諸如這樣的倫理之爭(zhēng)，在今年世界人工智能大會(huì)引發(fā)專家熱議之后，同樣在聚焦前沿科技的外灘大會(huì)上涌動(dòng)各方觀點(diǎn)。

 

　　在前不久的一場(chǎng)“見解論壇”上，來(lái)自計(jì)算機(jī)科學(xué)、哲學(xué)、歷史和文學(xué)領(lǐng)域的知名學(xué)者，以及人工智能領(lǐng)域企業(yè)家共同探討大模型時(shí)代的人機(jī)關(guān)系、硅基生命和碳基生命的未來(lái)之爭(zhēng)等話題。

 

　　在論壇的主題演講中，小i集團(tuán)董事局主席兼CEO袁輝甚至拋出了一個(gè)聽上去有些“危言聳聽”的觀點(diǎn)：“無(wú)論是人工智能還是大模型，人類在既定程序中循環(huán)，人類最大的威脅不是人類本身，而是碳硅之爭(zhēng)。人工智能按照目前的趨勢(shì)發(fā)展，如果人類不能重新認(rèn)識(shí)世界和自己，人工智能或?qū)缛祟悺?rdquo;

 

　　生存還是毀滅，這是一個(gè)值得思考的問題。這場(chǎng)看似人工智能技術(shù)維度的探討，蘊(yùn)含著豐富的哲學(xué)與人文意味。

 

　　駕馭AI

 

　　袁輝首先就提示人工智能可能給人類帶來(lái)的挑戰(zhàn)：“人類在最初創(chuàng)造人工智能時(shí)，對(duì)它的定義就不是一個(gè)科技或工具。大家可以想一想，自己所期待的人工智能是一個(gè)怎樣的概念？顯然，它是一個(gè)具備自我意識(shí)的人工智能。這在未來(lái)是人類可能面臨的最大挑戰(zhàn)。”

 

　　那么，當(dāng)前涌現(xiàn)大模型是否會(huì)造成這種威脅？袁輝認(rèn)為并不會(huì)。“即使大模型在今天疊加了無(wú)數(shù)的算力，數(shù)據(jù)和算法，但本質(zhì)上并沒有突破。從這個(gè)角度講，大模型并不會(huì)直接創(chuàng)造我們所擔(dān)心和恐懼的級(jí)別，但這個(gè)序幕已經(jīng)開始了。因?yàn)樵谝欢ǖ牧孔兊幕A(chǔ)上，大模型已經(jīng)出現(xiàn)了所謂的思維鏈、舉一反三，甚至具備了人類的一些基本的核心要素，所以從通用人工智能這個(gè)角度，（這種挑戰(zhàn)）已經(jīng)開始了。”

 

　　不可否認(rèn)的是，大模型正在賦能各行各業(yè)。“過去的人工智能技術(shù)只能在某些行業(yè)和場(chǎng)景中實(shí)現(xiàn)商業(yè)化的轉(zhuǎn)化，比如呼叫中心、智慧城市等。但今天大模型最大的價(jià)值，是有能力在同一時(shí)間推動(dòng)所有行業(yè)的全線爆發(fā)，大模型能夠直接幫各行各樣進(jìn)行大幅的降本增效。”

 

　　正是這種快速發(fā)展的速度，讓袁輝感到警惕。“如果人工智能按目前的趨勢(shì)發(fā)展下去，人類如果不能重新認(rèn)識(shí)世界和自己，人工智能對(duì)人類將會(huì)是毀滅性的。”

 

　　感到警惕的還有復(fù)旦大學(xué)計(jì)算機(jī)科學(xué)技術(shù)學(xué)院教授肖仰華。他表示，人類智能發(fā)展受限于緩慢的生物進(jìn)化速度，其認(rèn)知能力是有限的。發(fā)展具備認(rèn)知能力的機(jī)器，是認(rèn)知日益復(fù)雜世界的必經(jīng)之路。當(dāng)前生成式大模型成為認(rèn)知智能的新底座，“涌現(xiàn)”出了令人驚訝的“智能”，GPT-4等大規(guī)模生成式語(yǔ)言模型在“形式上”具備了人類思維的核心能力。

 

　　“它已經(jīng)不單單只是在文本領(lǐng)域，它現(xiàn)在朝著多模態(tài)化、具身化，朝著操縱我們的這個(gè)世界的機(jī)械方向去發(fā)展，它已然掀起了通用人工智能的技術(shù)革命。而且這一波通用人工智能技術(shù)革命，絕不單單只是一次技術(shù)革命。”肖仰華說(shuō)。

 

　　他承認(rèn)，在大模型時(shí)代，人機(jī)交互形式統(tǒng)一為了自然語(yǔ)言，更消滅了專業(yè)語(yǔ)言鴻溝，機(jī)器“理解”專業(yè)語(yǔ)言不再存在障礙。但這也導(dǎo)致人機(jī)邊界日益模糊，傳統(tǒng)的圖靈測(cè)試已難以勝任大模型時(shí)代的人機(jī)區(qū)分任務(wù)，這會(huì)帶來(lái)重大社會(huì)治理問題，需要重建人機(jī)倫理關(guān)系、人機(jī)區(qū)分機(jī)制，規(guī)范AIGC（生成式人工智能）的使用，防止虛假與欺詐泛濫，積極調(diào)整產(chǎn)業(yè)結(jié)構(gòu)以應(yīng)對(duì)AI對(duì)人力的替代。

 

　　“未來(lái)AI大模型被廣泛應(yīng)用之后，最大的挑戰(zhàn)是預(yù)防人類智力的倒退，智能的倒退必然引起人類主體性的喪失與文明的崩塌，因此必須重建大模型時(shí)代的新型人機(jī)關(guān)系，人類的新角色是智能機(jī)器的‘牧羊人’，人最重要的能力是使用和駕馭AI的能力。”

 

　　加強(qiáng)監(jiān)管

 

　　一個(gè)新技術(shù)的誕生，在為經(jīng)濟(jì)社會(huì)發(fā)展帶來(lái)新機(jī)遇的同時(shí)，也勢(shì)必會(huì)伴隨著各種各樣的問題。人工智能的發(fā)展，除了給學(xué)界、業(yè)界帶來(lái)有關(guān)對(duì)人類主體性的思考，實(shí)際上，已經(jīng)切實(shí)地產(chǎn)生了諸如傳播虛假信息、侵害個(gè)人信息權(quán)益、數(shù)據(jù)安全和偏見歧視等問題。如何統(tǒng)籌生成式人工智能發(fā)展和安全引起各方關(guān)注。

 

　　日前，由國(guó)家互聯(lián)網(wǎng)信息辦公室等七部門聯(lián)合發(fā)布的《生成式人工智能服務(wù)管理暫行辦法》于8月15日正式施行，這也是我國(guó)首個(gè)針對(duì)生成式人工智能產(chǎn)業(yè)的規(guī)范性政策。

 

　　此后，多家國(guó)產(chǎn)大模型產(chǎn)品陸續(xù)通過《生成式人工智能服務(wù)管理暫行辦法》備案，正式上線面向公眾提供服務(wù)。

 

　　作為人工智能領(lǐng)域的深度參與者，小i機(jī)器人日前已經(jīng)發(fā)布了通用大模型“華藏”。袁輝如何看待上述監(jiān)管措施帶給市場(chǎng)的影響？

 

　　袁輝接受21世紀(jì)經(jīng)濟(jì)報(bào)道記者專訪時(shí)透露，“華藏目前正在申請(qǐng)備案，時(shí)間表也按照正常節(jié)奏推進(jìn)。”其還提到，“備案只是一個(gè)開始，因?yàn)槿斯ぶ悄艿陌l(fā)展速度遠(yuǎn)超人類想象，而我們國(guó)家監(jiān)管總體上是包容支持的，這一點(diǎn)是非常好的。”

 

　　袁輝還表示，“與目前市面上的通用大模型不同的是，華藏的目標(biāo)是能讓成千上萬(wàn)的企業(yè)能夠直接去生成To B或者To C的應(yīng)用。目前類似于Open AI向公眾開放一個(gè)公用版本，其所創(chuàng)造的商業(yè)價(jià)值是有限的。所以二者側(cè)重點(diǎn)會(huì)有些不同。”

 

　　另外，與ChatGPT發(fā)布伊始國(guó)內(nèi)大模型如雨后春筍般涌現(xiàn)不同，近兩個(gè)月，市場(chǎng)上有關(guān)大模型的發(fā)布不再如此密集。這兩個(gè)月里，包括華藏在內(nèi)的大模型公司有哪些進(jìn)展？

 

　　袁輝還是用“馬拉松”來(lái)形容這場(chǎng)大模型競(jìng)賽。“今天的大模型競(jìng)賽，是剛剛響起了發(fā)令槍，參賽者可能才跑出去一公里到三公里，所以你最開始會(huì)看到烏泱泱的一堆全部涌現(xiàn)，群眾選手是非常多的。在頭一公里之內(nèi)的話，你幾乎看不出來(lái)誰(shuí)是冠軍，但是沒關(guān)系，他不是一直在跑嘛，3公里5公里，你就發(fā)現(xiàn)有很多人就慢慢就掉隊(duì)了。所以我們現(xiàn)在會(huì)看到，好像比一開始參與的人少了，因?yàn)檫@是一個(gè)漫長(zhǎng)的長(zhǎng)跑。”

 

　　關(guān)于華藏的最新進(jìn)展，袁輝透露，下個(gè)月華藏將有一場(chǎng)發(fā)布會(huì)以展示其通用能力，并公布合作伙伴和客戶，讓他們基于華藏“秀”自己真正的商業(yè)應(yīng)用和價(jià)值。