Amazon推出下一代AI晶片:AI訓練效能提升四倍

Amazon推出下一代AI晶片:AI訓練效能提升四倍

Amazon Web Services (AWS) 在拉斯維加斯re:Invent會議上宣布了一系列與人工智慧相關的重大新聞,展示了該公司對於人工智慧平台的長期目標。首先AWS 揭幕了其最新一代的 AI 晶片,包括專門用於模型訓練的 Trainium2 和更通用的 Graviton4。Trainium2 被設計用來提供比前代產品高達四倍的性能和兩倍的能效。Graviton4 基於 Arm 架構,比 Intel 或 AMD 晶片耗能更低,能在使用訓練好的 AI 模型時提供高達30%的性能提升。此外,Graviton4 預計將在未來幾個月內廣泛發布,目前已在預覽階段提供​​​​。

儘管 Amazon 推出了自家晶片,但該公司仍與第三方供應商如 NVIDIA 保持緊密合作關係。Amazon 將為企業客戶提供雲端訪問 NVIDIA 最新的 H200 AI GPU,並為 NVIDIA 的研發團隊運營超過16,000個 Nvidia GH200 Grace Hopper Superchips,這與其主要 AI 競爭對手 Microsoft 採取的策略相似​​。

此外,Amazon 也宣布了一款新的以商業為重點的 AI 聊天機器人「Q」,該機器人被描述為一種新型的生成式 AI 驅動的個人助理,目的在幫助簡化工作項目和客戶服務任務。Q 能夠根據企業需求量身定制,提供常見問題的相關回答,甚至能根據用戶在公司中的角色定制互動方式。Q 目前處於預覽階段,不久後將進行更廣泛的發布,每位用戶的成本預計在每月20至30美元之間​​。

這些發布顯示 Amazon 在人工智慧技術領域的大膽投入,不僅專注於提升 AI 模型訓練的效率和效能,還致力於透過 AI 強化其雲計算服務,以及推動 AI 技術在商業應用領域的創新。

Leave a Reply

Your email address will not be published. Required fields are marked *