AI 熱潮催生新型態的AI算力租賃模式

隨著生成式人工智慧的興起,企業對 AI 算力的需求急劇增加。傳統的資料中心託管商和雲端服務商雖然提供一定程度的支援,但在應對高階 AI 伺服器的需求上顯得力不從心。這促使了一種新型態的 GPU 運算/雲提供商的崛起,這些廠商專注於提供 AI 算力和高階 GPU 算力的租賃。

AI 熱潮催生新型態的AI算力租賃模式

隨著生成式人工智慧的興起,企業對 AI 算力的需求急劇增加。傳統的資料中心託管商和雲端服務商雖然提供一定程度的支援,但在應對高階 AI 伺服器的需求上顯得力不從心。這促使了一種新型態的 GPU 運算/雲提供商的崛起,這些廠商專注於提供 AI 算力和高階 GPU 算力的租賃。

這些新型態的 GPU 運算提供商,如 CoreWeave,受到了 NVIDIA 和微軟等大公司的關注和投資,他們專注於滿足中小型企業對即時使用高階 AI 算力的需求,並且具有更高的彈性和安全性。這些公司通常由裸機服務提供商、AI 演算法提供商、虛擬貨幣挖礦業者和超級電腦提供商/科研機構轉型而來。

在這個背景下,2023 年全球第二大獨角獸企業 Inflection AI 宣布將與 CoreWeave 和 NVIDIA 共同建造全球最大的 AI 叢集/超級電腦,這標誌著 AI 算力成為大型雲服務提供商和 AI 新創公司提升市場份額的關鍵因素。

在這個新的租賃模式下,企業有多種選擇來獲得所需的 AI 算力,包括自行購買和設置 AI 伺服器、使用雲端服務商的應用實例,或租借 GPU 運算提供商的 AI 算力。每種選擇都有其優勢和挑戰,企業需要根據自身的需求和資源來做出選擇。

(原文出自:https://money.udn.com/money/story/11162/7505542_)

Read more

【PwC Insight Hub】從限電停工到數智韌性:製造業如何用 AI 建立不被中斷的工廠?

【PwC Insight Hub】從限電停工到數智韌性:製造業如何用 AI 建立不被中斷的工廠?

2021 年 9 月 26 日晚上十點,新竹某電子廠的供應鏈主管收到一則訊息。 「昆山廠因為限電政策,明早六點起全面停工,復工時間未定。」 他盯著螢幕,第一時間想的不是「損失多少」,而是:「我有哪些料會斷?」手上有二十幾家上游供應商,十幾條產線同時在跑。有些物料是昆山獨家供應,有些雖有備援,但不確定是否能即時補上。更麻煩的是,他不知道這些料「現在在哪」——有些剛出貨、有些卡在倉庫、有些根本不知道生產了沒。 他打開 ERP 想查庫存,但畫面跳出來的是三天前的帳面數字。實際還有多少?夠撐幾天?哪些訂單會延遲?沒有人能給出答案。 他開始打電話。先是打給昆山供應商,沒人接。再打備援廠商,對方說「要查一下」,然後就是漫長等待。天快亮時,資料才逐一湊齊,而產線,已經開始缺料。 那一晚,台灣有數十位供應鏈主管在做著同樣的事。盯著通訊軟體、查貨況、發郵件、