據(jù)《華爾街日?qǐng)?bào)》報(bào)道，OpenAI 已經(jīng)開(kāi)發(fā)出一款能夠高精度識(shí)別 ChatGPT 生成文本的工具，但遲遲未發(fā)布。對(duì)此 OpenAI 進(jìn)行了回應(yīng)，承認(rèn)正在研究文本水印技術(shù)，但表示這項(xiàng)技術(shù)仍存在諸多挑戰(zhàn)。
圖源 Pexels
圖源 Pexels
據(jù)IT之家了解，通過(guò)文本水印，OpenAI 將只專注于檢測(cè)來(lái)自 ChatGPT 的文字，而不是來(lái)自其他公司模型的文字。其將通過(guò)對(duì) ChatGPT 選擇單詞的方式進(jìn)行微小的更改來(lái)實(shí)現(xiàn)這一點(diǎn)，本質(zhì)上是在文字中創(chuàng)建一個(gè)不可見(jiàn)的水印，以后可以被一個(gè)單獨(dú)的工具檢測(cè)到。
OpenAI 稱，文本水印是他們探索的多種解決方案之一，其他還包括分類器和元數(shù)據(jù)，旨在確定文本的來(lái)源。盡管在某些情況下，文本水印技術(shù)表現(xiàn)出色，但面對(duì)翻譯、改寫或插入特殊字符等篡改行為時(shí)效果會(huì)下降。此外，該技術(shù)可能對(duì)某些群體產(chǎn)生不成比例的影響，例如非英語(yǔ)母語(yǔ)人士。
OpenAI 表示，由于這些復(fù)雜因素及其對(duì)整個(gè)生態(tài)系統(tǒng)潛在的影響，OpenAI 表示將謹(jǐn)慎推進(jìn)文本溯源技術(shù)的研究，并優(yōu)先考慮視聽(tīng)內(nèi)容的認(rèn)證工具。
