人工智能初創(chuàng)公司Anthropic發(fā)布了它的下一個(gè)主要模型——這一次，你可以自己看看它與OpenAI的ChatGPT或Inflection的Pi等其他人工智能產(chǎn)品相比如何。
Anthropic周二宣布，它已經(jīng)發(fā)布了Claude 2，這是一個(gè)大語(yǔ)言模型，該公司表示，它在幾個(gè)關(guān)鍵基準(zhǔn)上都有改善，包括編碼、數(shù)學(xué)和推理能力，同時(shí)產(chǎn)生的有害答案也減少了。
Claude 2在其第二次主要迭代中得到了更廣泛的應(yīng)用。Anthropic推出了一個(gè)新的beta測(cè)試網(wǎng)站，供美國(guó)和英國(guó)的普通用戶注冊(cè)，同時(shí)通過API向企業(yè)開放新模型，價(jià)格與Anthropic之前仍在運(yùn)營(yíng)的Claude 1.3模型相同。
在接受《福布斯》采訪時(shí)，Anthropic的聯(lián)合創(chuàng)始人兼首席執(zhí)行官達(dá)里奧·阿莫代伊（Dario Amodei）告訴《福布斯》，與上一代相比，新模型與其說是“巨大的飛躍”，不如說是“更大的飛躍”。“這在很大程度上是一個(gè)進(jìn)化過程。”阿莫代伊說。“你必須在某處劃定界限，我們覺得這是一個(gè)足夠大的改進(jìn)，即使它只是總體進(jìn)展的一部分。”
在測(cè)試中，Claude 2.0在多個(gè)方面的表現(xiàn)都超過了它的前身。它在Python編碼測(cè)試中得分為71.2分，高于之前的56分；它在中學(xué)數(shù)學(xué)測(cè)驗(yàn)中將成績(jī)從85.2分提高到了88分；律師考試分?jǐn)?shù)也從73分上升到76.5分。之前的版本已經(jīng)可以分析多達(dá)75,000個(gè)單詞的提示——這大約是第一部哈利波特的長(zhǎng)度——Claude 2.0則可以處理兩倍的提示，大約是一部史詩(shī)小說的長(zhǎng)度，比如馬爾克斯的《百年孤獨(dú)》。(阿莫代伊告訴《福布斯》，Anthropic公司將在晚些時(shí)候再擴(kuò)大提示大小的限制。)
不到兩個(gè)月前，Anthropic剛剛獲得星火資本(Spark Capital)領(lǐng)投的4.5億美元新融資，據(jù)報(bào)道，該公司當(dāng)時(shí)的估值超過40億美元。該公司透露，數(shù)千家企業(yè)已經(jīng)在使用Claude的API。Anthropic還與幾家大客戶合作，建立定制模型，阿莫代伊說這些客戶包括Zoom、Notion和人工智能圖像生成器Midjourney，但他拒絕提供更多細(xì)節(jié)。
對(duì)于一家在2021年因?qū)ι虡I(yè)化存在分歧而從OpenAI中分離出來的初創(chuàng)公司來說，Claude 2.0的推出似乎代表著某種逆轉(zhuǎn)。但阿莫代伊說，以這種方式商業(yè)化一直是Anthropic“基本計(jì)劃”的一部分。我們是否會(huì)根據(jù)我們?cè)谶@個(gè)領(lǐng)域的發(fā)現(xiàn)，在某個(gè)方向上做出一些調(diào)整?當(dāng)然會(huì)。”他補(bǔ)充道。
阿莫代伊告訴《福布斯》，這種調(diào)整的部分原因是Anthropic認(rèn)為商業(yè)用戶可以提供更廣泛的“安全試驗(yàn)場(chǎng)”來檢查該模型的潛在危險(xiǎn)。他說，鑒于Claude 2.0的額外改進(jìn)，該公司決定更廣泛地開放Claude 2.0。目前，消費(fèi)者版是免費(fèi)的，不過阿莫代伊說公司最終可能會(huì)將其變現(xiàn)。“我們認(rèn)為這是一次實(shí)驗(yàn)。”他說。
與之前的Claude模型一樣，新版本也是使用“憲法人工智能”進(jìn)行訓(xùn)練的，這是一種訓(xùn)練模型的框架，人工智能監(jiān)督可以改善人工智能的結(jié)果，而無需人工參與。阿莫代伊說，盡管如此，在Claude2.0中，除了這種方法之外，還使用了一些人為的反饋和監(jiān)督。因此，Anthropic聲稱Claude2.0在限制有害產(chǎn)出方面是其前身的兩倍。
“幾乎可以肯定的是，有人會(huì)在這個(gè)模式中找到一些新的越矩行為，有人會(huì)發(fā)現(xiàn)一些糟糕的AI幻覺。你可以對(duì)模型說太多的話，模型也可以回答太多的話。”阿莫代伊承認(rèn)。“這些事情永遠(yuǎn)不會(huì)完美。”
在Anthropic模型發(fā)布不到兩個(gè)月前，阿莫代伊與OpenAI首席執(zhí)行官山姆·阿爾特曼（Sam Altman）、谷歌DeepMind首席執(zhí)行官德米斯·哈薩比斯（Demis Hassabis）以及其他300多人一起簽署了一封警告“人工智能帶來滅絕風(fēng)險(xiǎn)”的信。顯然，Anthropic相信，它可以在繼續(xù)推出新機(jī)型的同時(shí)，努力緩解這種世界末日的局面。與此形成鮮明對(duì)比的是，一些著名的科技領(lǐng)袖呼吁暫時(shí)凍結(jié)新模型的發(fā)布。
但阿莫代伊建議，與其在行業(yè)內(nèi)禁止發(fā)布模型，不如在發(fā)布重大模型，甚至培訓(xùn)新模型時(shí)，要求證明模型通過了某些安全檢查。他說：“我們也許應(yīng)該問，我們?nèi)绾斡媚Ｐ蛠砗饬繂栴}并制定規(guī)則，而不是在一段固定的時(shí)間內(nèi)暫停。”
