【市值飆上 190 億美元】加密貨幣礦場轉型 AI 雲端賺到翻,大量 GPU 握手中客戶搶著要 | TechOrange 科技報橘
Search
Close this search box.

【市值飆上 190 億美元】加密貨幣礦場轉型 AI 雲端賺到翻,大量 GPU 握手中客戶搶著要

隨著生成式人工智慧的興起,全世界對於 AI 基礎建設,例如 GPU 的運算需求也跟著急遽增加,因此就有廠商逮到機會成功轉型,將原本手上拿來進行加密貨幣挖礦的 GPU,搖身一變轉換成 AI 雲端運算設備,為有需求的客戶提供算力服務,不僅成功獲得投資者青睞和資金挹注,更讓外界看見 AI 產業鏈的另一個賺錢方向。

CoreWeave 是一家雲端 GPU 基礎設施提供商,他們從加密貨幣挖礦事業起家,近期獲得包含 Coatue、Fidelity 和 Altimeter Capital 等投資者的資金挹注,成功拿下 11 億美元的融資,公司估值提升到 190 億美元,債務和股權融資總額也達到 50 億美元,這對於一家成立不到 10 年的公司來說確實是了不起的成就。

另一家同樣經營雲端 GPU 代管的新創公司 Lambda Labs,則在完成了 3.2 億美元的 C 輪融資後,幾個月內再獲得高達 5 億美元的「特殊目的融資」;由區塊鏈名人 Jed McCaleb 所支持的非營利組織 Voltage Park,在去年 10 月宣布投資 5 億美元建造以 GPU 為架構的資料中心;雲端 GPU 主機廠商 Together AI 亦於今年 3 月時,獲得 Salesforce 領投的 1.06 億美元融資,這些行為在在顯示了投資人對雲端 GPU 運算廠商所充滿的信心。

掌握 AI 趨勢 & 活動資訊一點都不難!訂閱電子報,每週四一起《AI TOgether》

感謝訂閱!隨時注意信箱的最新資訊

為什麼各界對於雲端 GPU 服務擁有如此大的興趣,甚至於不惜成本也要投入大量資金呢?正如同一開始所提到,生成式人工智慧的蓬勃發展,使 GPU 算力的重要性再度三級跳,更成為了既加密貨幣挖礦潮之後,各界對於 GPU 又一次的需求大爆發。

主流雲端貴 2 倍,替代雲爆紅有理由

從架構上來說,GPU 是訓練、微調和運行 AI 模型最合理的選擇,因為 GPU 包含數千個處理核心,可以藉由並行運算來執行建構出生成式模型的線性代數方程式,但是對於大多數企業而言,購買與部署 GPU 的成本太高,因此許多開發人員和組織選擇轉向雲端。

在雲端運算領域擁有一席之地的大型企業,比方說 Amazon 的 AWS、Google Cloud 和微軟 Azure,其實都不乏針對生成式 AI 工作流程最佳化的 GPU 方案或專用硬體,但 CoreWeave、Lambda Labs 這些所謂的「替代雲」,卻可以在某些任務上發展出專屬優勢,並且提供給客戶更便宜、可用度更高的另類選擇。

在 CoreWeave 上,消費者租用 Nvidia A100 40GB 硬體方案的費用為每小時 2.39 美元,相當於每月 1200 美元,但是在微軟 Azure 上,相同 GPU 每小時的費用卻是 3.40 美元,即每月 2482 美元,Google Cloud 更要每月 2682 美元,主流雲跟替代雲的價差高達兩倍,然而兩者在 AI 模型訓練和推理的算力上,基本來說並沒有任何區別。

科技巨頭自研晶片,NVIDIA 站隊小廠商

科技顧問公司 Gartner 雲端服務和技術副總裁 Sid Nag 向科技媒體《TechCrunch》表示,這些替代雲廠商透過「GPU 即服務」的概念,成功參與了 AI 運算市場,有鑑於外界對 GPU 算力的高度需求,即便替代雲廠商的伺服器規模並沒有科技巨頭來得大,但同樣的 NVIDIA GPU 卻給了許多單位、個人存取 AI 算力的新途徑,同時打開了另一片潛在市場。

Sid Nag 甚至指出,一些本來就擁有 AI 基礎建設的大型科技公司,當面臨了運算能力挑戰時,竟然也開始依賴起這些替代雲廠商,由此可見科技業對於 GPU 和 AI 的算力需求究竟有多大。

去年 6 月《CNBC》報導指出,微軟已跟 CoreWeave 簽署了一項價值數十億美元的協議,以確保 ChatGPT 開發商 OpenAI,可以擁有足夠運算能力來訓練旗下的生成式 AI 模型。

此外提供 GPU 硬體的 NVIDIA 則表示,替代雲的蓬勃發展以他們的角度來看是個理想趨勢,他們甚至已經開始優先為替代雲廠商提供 GPU,而非將產品完全出貨給大型科技巨頭。

專注於 AI 跟 GPU,沒有科技巨頭包袱

市場研究公司 Forrester 首席分析師 Lee Sustar 認為,像 CoreWeave 這樣的雲端 GPU 供應商之所以獲得成功,一部分原因是他們並沒有科技巨頭在基礎設施上的「包袱」。

Lee Sustar 指出,大型科技廠商在公有雲市場佔據主導地位,因此需要對 GPU 以外的基礎設施和服務進行大量投資,然而這些投資「幾乎沒有」甚至於「根本沒有」收入,反觀 CoreWeave 這類的替代雲廠商,只需專注在 GPU 和 AI 這兩件事情上即可,他們並沒有科技巨頭歷史累積下來的負擔。

然而替代雲的成長是否可以一直延續下去?Lee Sustar 認為,替代雲服務廠商能否得到擴張,將取決於他們是否可以繼續性的大量取得 GPU,並且透過有競爭力的低價對客戶提供服務。

隨著 Google、微軟和 AWS 等大型企業,不斷加大對客製化 AI 運算硬體的投資,例如 Google 擁有自主研發的 TPU,微軟最近也推出了兩款客製化晶片 Azure Maia 和 Azure Cobalt,AWS 則有 Trainium、Inferentia 和 Graviton 晶片等等,當科技巨頭的硬體成本不斷壓低,替代雲廠商的服務定價肯定會於未來受到挑戰。

Lee Sustar 表示,未來 GPU 運算可能會出現兩派明顯的勢力,一個是科技巨頭與自研硬體的算力組合,另一個則是 NVIDIA GPU 與替代雲廠商攜手合作的聯盟。

但更重要的是生成式 AI 仍存在「泡沫破裂」危機,假如有一天算力需求下降,但替代雲與 NVIDIA 手中卻囤積了大量 GPU,那麼這個經濟循環就會出現崩潰,不過無論 Lee Sustar 或 Sid Nag 都認為這件事短期內不會發生,樂觀的前景反而可能會吸引更多類似廠商相繼出現。

透過 Amazon Bedrock,發掘 Claude 3 系列模型的無窮潛能

【立即試用 Claude 3 系列模型,24 小時內免費體驗!】

【延伸閱讀】

【AI PC 會讓錢包很有感】報告指 2025 年 AI PC 成為主流,但售價至少要上漲 15%

◆【巨頭為 AI PC 打起來了】Intel 說你需要 NPU,但 NVIDIA 說 GPU 效能明明更強

◆【數字太驚人】彭博行業研究:生成式 AI 軟體產值將成長 6260%,銷售額達 3180 億美元

*本文開放合作夥伴轉載,資料來源:《TechCrunch》《CNBC》。首圖來源:《Pixabay》