joule

VMware 去年發表的 Private AI Foundation with NVIDIA，至今年 5 月正式推出，迎上企業採用生成式 AI 熱潮。Broadcom 全球 AI 主管 Chris Wolf 表示，企業用 Private AI 建立 AI 運算基建，較在公共雲上執行的成本可低至僅約三分之一。其中 vGPU 為重要的技術，幫助企業分配 GPU，在訓練模型與推論生成式 AI 之間有效分配資源。