據(jù)路透社報(bào)道，兩位著名的前谷歌研究人員David Ha和Llion Jones啟動(dòng)一項(xiàng)研究總部位于東京的新人工智能公司，創(chuàng)立了Sakana AI。
IT之家從報(bào)道中獲悉，Jones是Google 2017年研究論文《Attention Is All You Need》的第五位作者，該論文介紹了“transformer”深度學(xué)習(xí)架構(gòu)，該架構(gòu)后來(lái)成為聊天機(jī)器人ChatGPT和當(dāng)前由生成式AI驅(qū)動(dòng)的產(chǎn)品開發(fā)競(jìng)賽的基礎(chǔ)。Ha此前曾擔(dān)任Stability AI的研究主管和Google Brain研究員。
Jones表示，Sakana AI將專注于為基礎(chǔ)模型創(chuàng)建新架構(gòu)。“我們的方法不是構(gòu)建一個(gè)吸收所有數(shù)據(jù)的巨大模型，而是使用大量較小的模型，每個(gè)模型都有自己獨(dú)特的優(yōu)勢(shì)和較小的數(shù)據(jù)集，并讓這些模型相互通信和協(xié)作來(lái)解決問(wèn)題。”Ha解釋道。
兩位聯(lián)合創(chuàng)始人表示，Sakana這個(gè)名字源自日語(yǔ)單詞“さかな”（sa-ka-na），意為“魚”，旨在喚起“一群魚聚集在一起，通過(guò)簡(jiǎn)單的規(guī)則形成一個(gè)連貫的實(shí)體”的想法。
