更多

    夥 NVIDIA 推 Private AI Foundation VMware 建跨雲端生成式 AI

    Eric Chong
    Eric Chong
    商業・科技・創業・編輯

    自從今年興起生成式 AI ,廠商陸續推出相關的雲端服務,連 VMware 亦跟隨,與 NVIDIA 合作推出 Private AI Foundation ,讓企業在自建的 IT 基建內開發大型語言模型(LLM)。這方案實際上在 VMware Cloud 加入 AI 架構,延續多重雲端的產品策略

    企業在 Private AI 平台上可自行建立 LLM ,用內部數據微調模型,繼而支援不同推論用途,如生成程式碼、檢查程式碼,以至驅動對話機械人作客戶服務等,通過分布在不同雲端的資源,包括內部數據中心、私有雲及公共雲執行人工智能工作負載。

    Private AI 整合 VMware 的架構及 NVIDIA AI Enterprise 軟件,運用 GPU 加速運算工作。平台支援多個基礎 LLM ,如 NVIDIA 的 NeMo、Meta 的 Llama 2 等。 Dell Technologies、HPE 和聯想等廠商將在明年推出支援 Private AI 的硬件方案。

    VMware Cloud 亦有新升級,整合 Cloud Foundation 和 Cloud Services ​​,提供三種管理方法,讓企業實行多重雲端基建,分別:自行管理、VMware 代管和供應商代管。其中 VMware 代管有分 VMware Cloud on AWS 和 VMware Cloud on Equinix Metal ,而供應商代管則由 IBM Cloud 提供。

    VMware 新發表的軟件產品還有 NSX+ 和 vSAN Max。NSX+ 為去年發表的 Project NorthStar 正式版本,以 SaaS 方式供應,整合多重雲端環境的網絡和安全管理。vSAN Max 以 ESA 儲存架構為基礎,支援 PB 級的分散式儲存。每個 vSAN 叢集支援最多 8.6PB 容量,而且可跨越多重雲端管理。vSAN Max 要延至 2024 年下半年才正式推出,現有 vSAN 客戶不獲升級,需另外購買授權或用 TB 為單位的訂閱模式。

    最新影片

    您會感興趣的內容

    相關文章