參考消息網(wǎng)11月22日報道 英國《自然》周刊網(wǎng)站10月10日刊登題為《ChatGPT和其他人工智能如何影響科研出版》的文章，作者是杰瑪·康羅伊，內(nèi)容編譯如下：
每當(dāng)在撰寫論文時陷入困境，多梅尼科·馬斯特羅迪卡薩就會求助于聊天機器人ChatGPT，它能在幾秒鐘內(nèi)給出答案。馬斯特羅迪卡薩是華盛頓大學(xué)醫(yī)學(xué)院的放射學(xué)研究人員。他說：“它幫助我更快寫出可以出版的文稿。”
承擔(dān)寫作工作
嘗試用生成式人工智能撰寫文章或代碼的研究人員有很多，馬斯特羅迪卡薩只是其中之一。他購買了ChatGPT Plus，每周使用它好幾次。他認(rèn)為，ChatGPT在提出更清晰的表達(dá)方式上尤其有用。雖然《自然》周刊的一項調(diào)查顯示，定期使用大型語言模型的科學(xué)家仍是少數(shù)，但許多人預(yù)計，生成式人工智能將成為撰寫文稿、同行評審報告和申請函的常規(guī)助手。
這是人工智能改變科學(xué)交流和出版的部分方式。科學(xué)出版公司已經(jīng)嘗試將生成式人工智能融入科學(xué)搜索工具，以及用其編輯和迅速總結(jié)論文。許多研究人員認(rèn)為，母語非英語的人從人工智能工具中獲益最多。一些人認(rèn)為，生成式人工智能可以幫助科學(xué)家重新思考如何全面闡述和總結(jié)實驗成果——他們可以讓大型語言模型承擔(dān)這方面的大部分工作。這意味著，科學(xué)家用于寫作論文的時間大大減少，可以有更多時間做實驗。
加利福尼亞大學(xué)伯克利分校的計算生物學(xué)家、《電子生活》期刊主編邁克爾·艾森說：“寫論文從來都不是真正的目標(biāo)——目標(biāo)是搞研究。”他預(yù)言，生成式人工智能工具甚至可能從根本上改變科學(xué)論文的性質(zhì)。
但人們對人工智能的不準(zhǔn)確性和錯誤感到擔(dān)憂，這將影響它發(fā)揮更大作用。大型語言模型僅僅會生成與輸入信息的模式相符的貌似合理的答案，并不能輸出準(zhǔn)確的信息。出版商們擔(dān)心，越來越多地使用人工智能可能導(dǎo)致更多質(zhì)量差或錯漏百出的文稿出現(xiàn)——甚至導(dǎo)致大量人工智能輔助撰寫的假論文出現(xiàn)。
英國IOP出版公司主要出版物理學(xué)刊物。該公司同行評審工作負(fù)責(zé)人勞拉·菲瑟姆說：“任何類似的影響都相當(dāng)令人擔(dān)憂。”
拼湊注水論文
科學(xué)出版公司和其他一些人已經(jīng)指出了生成式人工智能可能造成的一些影響。英國研究分析企業(yè)數(shù)字科學(xué)公司首席執(zhí)行官丹尼爾·胡克說，人工智能工具的廣泛應(yīng)用可能會降低拼湊低質(zhì)量論文的難度，甚至?xí)茐难芯康耐暾浴Ｋf：“出版商有理由擔(dān)心。”
有些時候，研究人員承認(rèn)，他們會讓ChatGPT幫助寫論文，但不事先說明。一些人之所以被發(fā)現(xiàn)，是因為忘了清理掉使用人工智能的蛛絲馬跡。
理想情況下，出版商應(yīng)該能夠發(fā)現(xiàn)大型語言模型生成的文本。但在實踐中，檢測人工智能痕跡的工具尚無法在不誤把人寫的文章視為人工智能產(chǎn)物的前提下準(zhǔn)確挑出生成式文本。
但是，對評審?fù)姓撐牡娜硕裕笮驼Z言模型可能是一個福音。馬斯特羅迪卡薩表示，自將ChatGPT Plus當(dāng)作助手以來，他得以評審更多同行的論文，因為大型語言模型可以為他寫的評論潤色。他說：“如果已經(jīng)有了一份草稿，我就可以在幾個小時內(nèi)把它改好，不必花上幾天時間。我覺得這個助手必將成為工具包的一部分。”
德國弗里德里希·席勒大學(xué)化學(xué)信息學(xué)研究員克里斯托夫·施泰因貝克發(fā)現(xiàn)，ChatGPT Plus非常好用，它能迅速總結(jié)他正在評審的論文預(yù)印本。
穆罕默德·侯賽尼是美國西北大學(xué)科研道德和完整性領(lǐng)域的學(xué)者。他說，大家擔(dān)心的一個關(guān)鍵問題是，研究人員可能會不經(jīng)思考，只依靠ChatGPT拼湊評論文章。如果直接要求一個大型語言模型去評審一篇文稿，它除了對文稿進(jìn)行總結(jié)和提供修改建議外，多半幾乎不生成任何有價值的東西。
泄密問題待解
圍繞用大型語言模型來評審論文，早期的擔(dān)憂主要涉及保密性。一些出版商禁止研究人員將論文文稿和部分文本上傳到生成式人工智能平臺以生成評審報告，因為出版商擔(dān)心這些論文會進(jìn)入用于訓(xùn)練大型語言模型的數(shù)據(jù)集，而這就違反了保密合同條款。今年6月，出于保密考慮，美國國家衛(wèi)生研究院禁止使用ChatGPT和其他生成式人工智能工具來生成同行評審報告。兩周后，澳大利亞研究理事會出于同一理由禁止在評審過程中使用生成式人工智能。
避免泄密的一個辦法是使用私有化的大型語言模型，這樣就可以確保數(shù)據(jù)不會被提供給第三方。亞利桑那州立大學(xué)正嘗試建立私有化的大型語言模型。該大學(xué)的尼爾·伍德伯里說：“這是一個可以解決的問題。”
菲瑟姆說，如果能進(jìn)一步搞清大型語言模型如何存儲、保護(hù)和使用這些數(shù)據(jù)，那么就可以將這些工具整合到出版商已經(jīng)在使用的審查系統(tǒng)中。威利-布萊克韋爾出版公司的發(fā)言人說，該公司正嘗試用生成式人工智能幫助篩選文稿、挑選評審人以及核實作者身份。
倫理界限模糊
然而，一些研究人員認(rèn)為，大型語言模型的倫理界限過于模糊，無法納入科學(xué)出版程序。荷蘭奈梅亨大學(xué)的認(rèn)知科學(xué)家伊麗絲·范羅伊說，大家主要擔(dān)心的是大型語言模型的工作方式：它搜索互聯(lián)網(wǎng)內(nèi)容時沒有偏好或版權(quán)方面的考量。她還說，生成式人工智能“從設(shè)計上說就是自動剽竊”，因為用戶并不知道信息的出處。她認(rèn)為，如果研究人員更清楚地意識到這一點，他們就不會想用生成式人工智能工具了。
一些新聞機構(gòu)已經(jīng)阻止ChatGPT搜索它們的網(wǎng)站。有報道稱，一些公司正在考慮提起訴訟。盡管科學(xué)出版公司還沒有這樣做，但威利-布萊克韋爾出版公司說：“一些行業(yè)報告和訴訟指控生成式人工智能模型無視現(xiàn)有限制措施，出于訓(xùn)練目的收集受保護(hù)的資料，本公司正在密切關(guān)注此類報告和訴訟。”這家出版公司還說，它已經(jīng)呼吁加強監(jiān)管，包括讓大型語言模型的提供商承擔(dān)保持透明和接受審查的責(zé)任。
侯賽尼認(rèn)為，在特定學(xué)科，用科學(xué)文獻(xiàn)訓(xùn)練大型語言模型可能是提高其輸出內(nèi)容的準(zhǔn)確性和相關(guān)性的一個途徑，但《自然》周刊聯(lián)系到的出版商都說，它們目前還沒有這樣做。
英國布里斯托爾大學(xué)的杰瑪·德里克以科研政策和文化為研究對象。她說，如果學(xué)者們開始依賴大型語言模型，另一個讓人擔(dān)憂的問題是，他們的表達(dá)能力可能會減弱。她還說，剛開始從事研究的人可能因此錯過磨煉公正表達(dá)觀點的能力的機會。
加拿大魁北克人工智能學(xué)院資深機器學(xué)習(xí)科學(xué)家帕特里克·米尼奧特說，生成式人工智能可能改變科研成果的發(fā)表和傳播方式。他說，這可能意味著，研究成果將以一種可被機器而不是人類輕易解讀的形式發(fā)表。他說：“將出現(xiàn)各種新的出版形式。”
在大型語言模型時代，艾森設(shè)想科研成果未來將以一種互動的、“按需”的形式出版，而不是一個模式固定的出版物。在新模式下，用戶可以利用生成式人工智能工具詢問實驗內(nèi)容、數(shù)據(jù)和分析結(jié)果，這將使他們得以深入探究一項研究中與自己最相關(guān)的方面。新模式還將使用戶得到為他們量身定制的研究成果描述。艾森說：“我認(rèn)為，我們將停止讓單一陳述模式充當(dāng)人類與科研成果之間的交流介質(zhì)，這只是時間問題。”
