參考消息網(wǎng)11月22日?qǐng)?bào)道 英國(guó)《自然》周刊網(wǎng)站10月10日刊登題為《ChatGPT和其他人工智能如何影響科研出版》的文章，作者是杰瑪·康羅伊，內(nèi)容編譯如下：
每當(dāng)在撰寫論文時(shí)陷入困境，多梅尼科·馬斯特羅迪卡薩就會(huì)求助于聊天機(jī)器人ChatGPT，它能在幾秒鐘內(nèi)給出答案。馬斯特羅迪卡薩是華盛頓大學(xué)醫(yī)學(xué)院的放射學(xué)研究人員。他說(shuō)：“它幫助我更快寫出可以出版的文稿。”
承擔(dān)寫作工作
嘗試用生成式人工智能撰寫文章或代碼的研究人員有很多，馬斯特羅迪卡薩只是其中之一。他購(gòu)買了ChatGPT Plus，每周使用它好幾次。他認(rèn)為，ChatGPT在提出更清晰的表達(dá)方式上尤其有用。雖然《自然》周刊的一項(xiàng)調(diào)查顯示，定期使用大型語(yǔ)言模型的科學(xué)家仍是少數(shù)，但許多人預(yù)計(jì)，生成式人工智能將成為撰寫文稿、同行評(píng)審報(bào)告和申請(qǐng)函的常規(guī)助手。
這是人工智能改變科學(xué)交流和出版的部分方式?？茖W(xué)出版公司已經(jīng)嘗試將生成式人工智能融入科學(xué)搜索工具，以及用其編輯和迅速總結(jié)論文。許多研究人員認(rèn)為，母語(yǔ)非英語(yǔ)的人從人工智能工具中獲益最多。一些人認(rèn)為，生成式人工智能可以幫助科學(xué)家重新思考如何全面闡述和總結(jié)實(shí)驗(yàn)成果——他們可以讓大型語(yǔ)言模型承擔(dān)這方面的大部分工作。這意味著，科學(xué)家用于寫作論文的時(shí)間大大減少，可以有更多時(shí)間做實(shí)驗(yàn)。
加利福尼亞大學(xué)伯克利分校的計(jì)算生物學(xué)家、《電子生活》期刊主編邁克爾·艾森說(shuō)：“寫論文從來(lái)都不是真正的目標(biāo)——目標(biāo)是搞研究。”他預(yù)言，生成式人工智能工具甚至可能從根本上改變科學(xué)論文的性質(zhì)。
但人們對(duì)人工智能的不準(zhǔn)確性和錯(cuò)誤感到擔(dān)憂，這將影響它發(fā)揮更大作用。大型語(yǔ)言模型僅僅會(huì)生成與輸入信息的模式相符的貌似合理的答案，并不能輸出準(zhǔn)確的信息。出版商們擔(dān)心，越來(lái)越多地使用人工智能可能導(dǎo)致更多質(zhì)量差或錯(cuò)漏百出的文稿出現(xiàn)——甚至導(dǎo)致大量人工智能輔助撰寫的假論文出現(xiàn)。
英國(guó)IOP出版公司主要出版物理學(xué)刊物。該公司同行評(píng)審工作負(fù)責(zé)人勞拉·菲瑟姆說(shuō)：“任何類似的影響都相當(dāng)令人擔(dān)憂。”
拼湊注水論文
科學(xué)出版公司和其他一些人已經(jīng)指出了生成式人工智能可能造成的一些影響。英國(guó)研究分析企業(yè)數(shù)字科學(xué)公司首席執(zhí)行官丹尼爾·胡克說(shuō)，人工智能工具的廣泛應(yīng)用可能會(huì)降低拼湊低質(zhì)量論文的難度，甚至?xí)茐难芯康耐暾?。他說(shuō)：“出版商有理由擔(dān)心。”
有些時(shí)候，研究人員承認(rèn)，他們會(huì)讓ChatGPT幫助寫論文，但不事先說(shuō)明。一些人之所以被發(fā)現(xiàn)，是因?yàn)橥饲謇淼羰褂萌斯ぶ悄艿闹虢z馬跡。
理想情況下，出版商應(yīng)該能夠發(fā)現(xiàn)大型語(yǔ)言模型生成的文本。但在實(shí)踐中，檢測(cè)人工智能痕跡的工具尚無(wú)法在不誤把人寫的文章視為人工智能產(chǎn)物的前提下準(zhǔn)確挑出生成式文本。
但是，對(duì)評(píng)審?fù)姓撐牡娜硕?，大型語(yǔ)言模型可能是一個(gè)福音。馬斯特羅迪卡薩表示，自將ChatGPT Plus當(dāng)作助手以來(lái)，他得以評(píng)審更多同行的論文，因?yàn)榇笮驼Z(yǔ)言模型可以為他寫的評(píng)論潤(rùn)色。他說(shuō)：“如果已經(jīng)有了一份草稿，我就可以在幾個(gè)小時(shí)內(nèi)把它改好，不必花上幾天時(shí)間。我覺(jué)得這個(gè)助手必將成為工具包的一部分。”
德國(guó)弗里德里希·席勒大學(xué)化學(xué)信息學(xué)研究員克里斯托夫·施泰因貝克發(fā)現(xiàn)，ChatGPT Plus非常好用，它能迅速總結(jié)他正在評(píng)審的論文預(yù)印本。
穆罕默德·侯賽尼是美國(guó)西北大學(xué)科研道德和完整性領(lǐng)域的學(xué)者。他說(shuō)，大家擔(dān)心的一個(gè)關(guān)鍵問(wèn)題是，研究人員可能會(huì)不經(jīng)思考，只依靠ChatGPT拼湊評(píng)論文章。如果直接要求一個(gè)大型語(yǔ)言模型去評(píng)審一篇文稿，它除了對(duì)文稿進(jìn)行總結(jié)和提供修改建議外，多半幾乎不生成任何有價(jià)值的東西。
泄密問(wèn)題待解
圍繞用大型語(yǔ)言模型來(lái)評(píng)審論文，早期的擔(dān)憂主要涉及保密性。一些出版商禁止研究人員將論文文稿和部分文本上傳到生成式人工智能平臺(tái)以生成評(píng)審報(bào)告，因?yàn)槌霭嫔虛?dān)心這些論文會(huì)進(jìn)入用于訓(xùn)練大型語(yǔ)言模型的數(shù)據(jù)集，而這就違反了保密合同條款。今年6月，出于保密考慮，美國(guó)國(guó)家衛(wèi)生研究院禁止使用ChatGPT和其他生成式人工智能工具來(lái)生成同行評(píng)審報(bào)告。兩周后，澳大利亞研究理事會(huì)出于同一理由禁止在評(píng)審過(guò)程中使用生成式人工智能。
避免泄密的一個(gè)辦法是使用私有化的大型語(yǔ)言模型，這樣就可以確保數(shù)據(jù)不會(huì)被提供給第三方。亞利桑那州立大學(xué)正嘗試建立私有化的大型語(yǔ)言模型。該大學(xué)的尼爾·伍德伯里說(shuō)：“這是一個(gè)可以解決的問(wèn)題。”
菲瑟姆說(shuō)，如果能進(jìn)一步搞清大型語(yǔ)言模型如何存儲(chǔ)、保護(hù)和使用這些數(shù)據(jù)，那么就可以將這些工具整合到出版商已經(jīng)在使用的審查系統(tǒng)中。威利-布萊克韋爾出版公司的發(fā)言人說(shuō)，該公司正嘗試用生成式人工智能幫助篩選文稿、挑選評(píng)審人以及核實(shí)作者身份。
倫理界限模糊
然而，一些研究人員認(rèn)為，大型語(yǔ)言模型的倫理界限過(guò)于模糊，無(wú)法納入科學(xué)出版程序。荷蘭奈梅亨大學(xué)的認(rèn)知科學(xué)家伊麗絲·范羅伊說(shuō)，大家主要擔(dān)心的是大型語(yǔ)言模型的工作方式：它搜索互聯(lián)網(wǎng)內(nèi)容時(shí)沒(méi)有偏好或版權(quán)方面的考量。她還說(shuō)，生成式人工智能“從設(shè)計(jì)上說(shuō)就是自動(dòng)剽竊”，因?yàn)橛脩舨⒉恢佬畔⒌某鎏?。她認(rèn)為，如果研究人員更清楚地意識(shí)到這一點(diǎn)，他們就不會(huì)想用生成式人工智能工具了。
一些新聞機(jī)構(gòu)已經(jīng)阻止ChatGPT搜索它們的網(wǎng)站。有報(bào)道稱，一些公司正在考慮提起訴訟。盡管科學(xué)出版公司還沒(méi)有這樣做，但威利-布萊克韋爾出版公司說(shuō)：“一些行業(yè)報(bào)告和訴訟指控生成式人工智能模型無(wú)視現(xiàn)有限制措施，出于訓(xùn)練目的收集受保護(hù)的資料，本公司正在密切關(guān)注此類報(bào)告和訴訟。”這家出版公司還說(shuō)，它已經(jīng)呼吁加強(qiáng)監(jiān)管，包括讓大型語(yǔ)言模型的提供商承擔(dān)保持透明和接受審查的責(zé)任。
侯賽尼認(rèn)為，在特定學(xué)科，用科學(xué)文獻(xiàn)訓(xùn)練大型語(yǔ)言模型可能是提高其輸出內(nèi)容的準(zhǔn)確性和相關(guān)性的一個(gè)途徑，但《自然》周刊聯(lián)系到的出版商都說(shuō)，它們目前還沒(méi)有這樣做。
英國(guó)布里斯托爾大學(xué)的杰瑪·德里克以科研政策和文化為研究對(duì)象。她說(shuō)，如果學(xué)者們開始依賴大型語(yǔ)言模型，另一個(gè)讓人擔(dān)憂的問(wèn)題是，他們的表達(dá)能力可能會(huì)減弱。她還說(shuō)，剛開始從事研究的人可能因此錯(cuò)過(guò)磨煉公正表達(dá)觀點(diǎn)的能力的機(jī)會(huì)。
加拿大魁北克人工智能學(xué)院資深機(jī)器學(xué)習(xí)科學(xué)家帕特里克·米尼奧特說(shuō)，生成式人工智能可能改變科研成果的發(fā)表和傳播方式。他說(shuō)，這可能意味著，研究成果將以一種可被機(jī)器而不是人類輕易解讀的形式發(fā)表。他說(shuō)：“將出現(xiàn)各種新的出版形式。”
在大型語(yǔ)言模型時(shí)代，艾森設(shè)想科研成果未來(lái)將以一種互動(dòng)的、“按需”的形式出版，而不是一個(gè)模式固定的出版物。在新模式下，用戶可以利用生成式人工智能工具詢問(wèn)實(shí)驗(yàn)內(nèi)容、數(shù)據(jù)和分析結(jié)果，這將使他們得以深入探究一項(xiàng)研究中與自己最相關(guān)的方面。新模式還將使用戶得到為他們量身定制的研究成果描述。艾森說(shuō)：“我認(rèn)為，我們將停止讓單一陳述模式充當(dāng)人類與科研成果之間的交流介質(zhì)，這只是時(shí)間問(wèn)題。”
