HydroX AI成立于2023年7月，位于美國加州，是一家專注于AI Safety（大模型安全）和Safe AI（安全人工智能）的科技企業(yè)，致力于為大模型公司、使用大模型的企業(yè)以及其他B2B行業(yè)的客戶提供全方位、多層次的AI安全解決方案。

在大模型技術(shù)快速發(fā)展的今天，大模型安全是無法避開的重要議題，其中AI Safety聚焦大模型本身，細(xì)分為大模型的對齊（Alignment）、可解釋性（Interpreferability）、魯棒性（Robustness）等問題。簡單來說，要對大模型進(jìn)行嚴(yán)格的“質(zhì)檢”，確保大模型是一個(gè)安全的大模型，不會(huì)產(chǎn)生嚴(yán)重后果，甚至危害人類社會(huì)。

HydroX AI創(chuàng)始人兼CEO ZL告訴36氪，相比于傳統(tǒng)的網(wǎng)絡(luò)安全領(lǐng)域，AI Safety是一個(gè)相對新興的領(lǐng)域，有更多的可能性和商業(yè)機(jī)會(huì)。ZL認(rèn)為，大模型的本質(zhì)是一個(gè)黑盒，針對這樣的黑盒會(huì)出現(xiàn)很多新的攻擊方式，例如prompt injection（提示詞注入）。許多AI開源項(xiàng)目已經(jīng)發(fā)現(xiàn)含有被攻擊的代碼，以及公開的訓(xùn)練數(shù)據(jù)集，都可能導(dǎo)致大模型安全問題。這些都需要新型的針對性的解決方案。

AI Safety主要依賴于大模型訓(xùn)練的過程，目前市面上已經(jīng)出現(xiàn)一些相關(guān)的技術(shù)。主流的大模型公司（如OpenAI）在發(fā)布大模型時(shí)會(huì)推出相應(yīng)的安全技術(shù)；英偉達(dá)研發(fā)了專門的防護(hù)技術(shù)，為大模型的輸出內(nèi)容“把關(guān)”；一些高校則設(shè)計(jì)了針對大模型的安全評測框架，以評估大模型的安全性。

HydroX AI的側(cè)重點(diǎn)主要放在大模型的風(fēng)控與數(shù)據(jù)保護(hù)。ZL表示，這是目前AI Safety最迫切且需求最廣的兩部分。如果大模型被惡意注入代碼或腳本，可能導(dǎo)致用戶使用大模型之后，被竊取了賬戶密碼、銀行卡號等個(gè)人隱私信息。

HydroX AI將為客戶提供一站式解決方案。具體來說，HydroX AI會(huì)開發(fā)一個(gè)獨(dú)立平臺，從發(fā)現(xiàn)問題到解決問題，再到持續(xù)監(jiān)控，形成端到端的閉環(huán)。安全領(lǐng)域是長期的動(dòng)態(tài)攻防，防御再強(qiáng)，也會(huì)遭到更強(qiáng)的攻擊。因此，HydroX AI正在持續(xù)豐富檢測庫的能力，讓問題檢測更全面、準(zhǔn)確，提升該平臺發(fā)現(xiàn)問題的能力。

目前，HydroX AI已經(jīng)在官網(wǎng)上線了一款免費(fèi)產(chǎn)品，主要供新用戶體驗(yàn)，提高用戶對這一新興領(lǐng)域的認(rèn)知和感受。ZL透露，今年年底公司將推出第一代一站式平臺。

商業(yè)模式上，HydroX AI前期將為客戶進(jìn)行定制化開發(fā)，打造一些標(biāo)桿案例，隨后逐漸過渡到SaaS模式，收取訂閱費(fèi)等?？紤]到公司現(xiàn)有人員和資源，HydroX AI現(xiàn)階段主要瞄準(zhǔn)國內(nèi)外做基礎(chǔ)大模型的AI公司，以及醫(yī)療、社交領(lǐng)域的模型公司，為這類客戶打造一站式解決方案。

創(chuàng)始人ZL先后就職于字節(jié)跳動(dòng)、meta、linkedin等公司，在網(wǎng)絡(luò)安全領(lǐng)域具備十多年經(jīng)驗(yàn)。團(tuán)隊(duì)核心成員共6人，均來自Google、meta、linkedin等公司。

投資人說：

綠洲資本投資負(fù)責(zé)人表示：“人工智能和社會(huì)的廣泛結(jié)合才剛剛開始，這里面的安全問題不僅僅涉及到隱私和滲透，更涉及到社會(huì)倫理、知識結(jié)構(gòu)和意識影響。未來安全不再是一個(gè)防護(hù)措施，更是與人工智能發(fā)展相輔相成的重要基礎(chǔ)設(shè)施，我們非常開心和全球資深的安全隱私技術(shù)團(tuán)隊(duì)一起探索人工智能下的社會(huì)安全和道德責(zé)任。”

Atom Capital創(chuàng)始合伙人Melissa Yang表示：隨著AI的落地，其安全問題變得愈發(fā)重要，大模型安全解決方案將成為新的市場剛需——這背后由監(jiān)管和企業(yè)驅(qū)動(dòng)，需要對AI和安全兩個(gè)領(lǐng)域的深刻認(rèn)知和密切結(jié)合，門檻很高。HydroX AI團(tuán)隊(duì)匯聚了AI、安全、工程領(lǐng)域的專家共同探索這一全新方向。早期進(jìn)入的團(tuán)隊(duì)有機(jī)會(huì)與業(yè)界最頭部的參與者一起建立行業(yè)共識，領(lǐng)導(dǎo)行業(yè)標(biāo)準(zhǔn)的制定，形成先發(fā)優(yōu)勢。我們看好HydroX AI成長為新一代的AI安全領(lǐng)導(dǎo)者。