AWS

AWS 在生成式 AI 模型託管服務 Bedrock 和機械學習管理服務 SageMaker 加設多項新功能，包括擴充基礎模型 Titan 的生成文字和圖像、 RAG 自訂模型、微調模型，以至 Guardrials 圍欄功能保護生成內容等，讓企業按業務需求自訂或調整模型，生成合適的內容幫助日常營運。

AWS 今年推出多個自研晶片，除了 Arm 伺服器的 Graviton 4 、 AI 訓練 Trainium 2 ，還展示首款量子晶片。該公司公用運算業務高級副總裁 Peter DeSantis 指出，這款晶片一改現時的糾錯方法，有效將錯誤率減低 100 倍，預計在這十年內以幾何級數加快發展量子位元。

國泰航空選擇 AWS 為策略雲端服務供應商，並合作成立「國泰機械學習創新中心」，用雲端技術和技能推動創新。現時已部署逾 50 個機械學習模型，幫助改善營運和客戶服務體驗。國泰甚至試用生成式 AI 處理客戶服務訊息。

公共雲平台的戰場轉至生成式 AI， AWS 在美國拉斯維加斯的年度大會 re:Invent 發表一連串生成式 AI 服務，其中有夥拍 NVIDIA 以 GH200 超級晶片建立超大規模叢集執行個體和具 65EFLOPS 運算效能的 AI 超級電腦。同時發表類似 ChatGPT 或 Copilot 的智能助理 Amazon Q ，用自然語言協助日常辦公。

AWS 全託管生成式 AI 服務 Amazon Bedrock 正式可用，備有多間 AI 公司的基礎模型，讓企業簡化開發過程。

自 F1 與 AWS 合作在電視直播上加設 F1 Insights 即時數據反映現場戰況，讓觀眾更投入賽事。電競直播亦加入同類即時數據分析，如《英雄聯盟（League of Legends，LOL）》同樣使用 AWS 的技術，開發多項觀賞數據，例如勝出機會（Win Expectancy），給觀眾掌握賽事最新狀況。

Amazon Web Services （ AWS ）推出 Amazon OpenSearch Serverless 向量引擎預覽版，提供相似搜尋功能，幫助用戶能開發包括機械學習（ML）的增強搜尋體驗和生成式 AI 應用程式，毋須管理底層向量數據庫基礎設施。

NVIDIA 去年 9 月推出 AI 運算 GPU H100 之後，公共雲平台陸續採購和完成安裝，相繼正式可用，最新有 AWS 推出 P5 執行個體，利用 AMD 第三代 EPYC 處理器，配最多 8 個 NVIDIA H100 Tensor Core GPU 。相較上一代用 A100 GPU 的 P4 執行個體， P5 可以將訓練時間縮減六倍，也節省最多 40% 訓練成本。

Amazon Web Services（ AWS ）宣布推出七項生成式 AI 新功能，其中最矚目的是 Amazon Bedrock Agents 代理功能。這項全託管功能使開發人員能夠創建基於生成式 AI 的應用程式完成複雜任務，並根據專有資訊源提供新答案。

AWS 聯同大中華區 28 間創投及企業，包括：紀源資本、啟明創投、真格基金、香港科技園公司等等，共同推出「 Amazon Web Services China Startup Loft Accelerator 」，目標為處於早期到成長期的創業公司提供技術及資源支持，協助 AI 領域的創業公司釋放創新潛能，快速實現業務擴張。