HydroX AI成立于2023年7月，位于美國加州，是一家專注于AI Safety（大模型安全）和Safe AI（安全人工智能）的科技企業，致力于為大模型公司、使用大模型的企業以及其他B2B行業的客戶提供全方位、多層次的AI安全解決方案。
在大模型技術快速發展的今天，大模型安全是無法避開的重要議題，其中AI Safety聚焦大模型本身，細分為大模型的對齊（Alignment）、可解釋性（Interpreferability）、魯棒性（Robustness）等問題。簡單來說，要對大模型進行嚴格的“質檢”，確保大模型是一個安全的大模型，不會產生嚴重后果，甚至危害人類社會。
HydroX AI創始人兼CEO ZL告訴36氪，相比于傳統的網絡安全領域，AI Safety是一個相對新興的領域，有更多的可能性和商業機會。ZL認為，大模型的本質是一個黑盒，針對這樣的黑盒會出現很多新的攻擊方式，例如prompt injection（提示詞注入）。許多AI開源項目已經發現含有被攻擊的代碼，以及公開的訓練數據集，都可能導致大模型安全問題。這些都需要新型的針對性的解決方案。
AI Safety主要依賴于大模型訓練的過程，目前市面上已經出現一些相關的技術。主流的大模型公司（如OpenAI）在發布大模型時會推出相應的安全技術；英偉達研發了專門的防護技術，為大模型的輸出內容“把關”；一些高校則設計了針對大模型的安全評測框架，以評估大模型的安全性。
HydroX AI的側重點主要放在大模型的風控與數據保護。ZL表示，這是目前AI Safety最迫切且需求最廣的兩部分。如果大模型被惡意注入代碼或腳本，可能導致用戶使用大模型之后，被竊取了賬戶密碼、銀行卡號等個人隱私信息。
HydroX AI將為客戶提供一站式解決方案。具體來說，HydroX AI會開發一個獨立平臺，從發現問題到解決問題，再到持續監控，形成端到端的閉環。安全領域是長期的動態攻防，防御再強，也會遭到更強的攻擊。因此，HydroX AI正在持續豐富檢測庫的能力，讓問題檢測更全面、準確，提升該平臺發現問題的能力。
目前，HydroX AI已經在官網上線了一款免費產品，主要供新用戶體驗，提高用戶對這一新興領域的認知和感受。ZL透露，今年年底公司將推出第一代一站式平臺。
商業模式上，HydroX AI前期將為客戶進行定制化開發，打造一些標桿案例，隨后逐漸過渡到SaaS模式，收取訂閱費等。考慮到公司現有人員和資源，HydroX AI現階段主要瞄準國內外做基礎大模型的AI公司，以及醫療、社交領域的模型公司，為這類客戶打造一站式解決方案。
創始人ZL先后就職于字節跳動、meta、linkedin等公司，在網絡安全領域具備十多年經驗。團隊核心成員共6人，均來自Google、meta、linkedin等公司。
投資人說：
綠洲資本投資負責人表示：“人工智能和社會的廣泛結合才剛剛開始，這里面的安全問題不僅僅涉及到隱私和滲透，更涉及到社會倫理、知識結構和意識影響。未來安全不再是一個防護措施，更是與人工智能發展相輔相成的重要基礎設施，我們非常開心和全球資深的安全隱私技術團隊一起探索人工智能下的社會安全和道德責任。”
Atom Capital創始合伙人Melissa Yang表示：隨著AI的落地，其安全問題變得愈發重要，大模型安全解決方案將成為新的市場剛需——這背后由監管和企業驅動，需要對AI和安全兩個領域的深刻認知和密切結合，門檻很高。HydroX AI團隊匯聚了AI、安全、工程領域的專家共同探索這一全新方向。早期進入的團隊有機會與業界最頭部的參與者一起建立行業共識，領導行業標準的制定，形成先發優勢。我們看好HydroX AI成長為新一代的AI安全領導者。
