【AI狂潮】Intel加速器有助突破應用瓶頸？　Gaudi 3平均訓練時間比Nvidia H100縮短50%

AI狂潮持續延燒，英特爾（Intel）在Vision 2024客戶暨合作夥伴大會上，推出第三代Gaudi 3加速器，突顯在推動企業級生成式AI領域的領先地位。據Intel評估，Intel Gaudi 3比對手Nvidia的H100速度更快、效能更高，推理效能平均高出50%。預示著Intel在AI硬件競爭中，再取得顯著進步，力抗對手Nvidia。

去年僅1成企業　成功投入生成式AI專案

Intel亦強調，去年只有10%的企業成功將生成式AI（GenAI）專案投入生產，預料在Intel推出最新產品後，將解決企業在擴展AI計畫時所面臨的挑戰。Intel行政總裁Pat Gelsinger表示，Gaudi 3加速器將打通生成式AI應用瓶頸，「從PC、數據中心至邊緣應用，實現AI無處不在」。

▲ Intel行政總裁Pat Gelsinger表示，Gaudi 3加速器將打通生成式AI應用瓶頸。（Intel圖片）

有見不少企業正轉型為AI公司，Pat Gelsinger表示，市場正在以前所未有的速度發展、創新，而且需要芯片助力。而Intel Gaudi 3將為企業生成式AI帶來效能、開放性和選擇，並揭露新的開放式可擴充系統、下一代產品和策略合作，以加速生成式AI的採用。

他補充，最新的Gaudi 3加速器、Xeon和Core Ultra平台將提供一套全面且彈性的解決方案，以滿足客戶與合作夥伴不斷改變的需求，並充分利用未來的龐大機會將其盈利化。

【AI取代人類？】Elon Musk預計　AI智力最快明年將超越人類

【AI狂潮】初創Hume AI發布情緒語音模型　改善線上對話體驗（附試用版連結）

比上一代AI運算能力提高4倍

▲ Intel Gaudi 3將於今年第2季開始提供予OEM廠商， 包括Dell、Lenovo等。（Intel圖片）

第三代Gaudi 3 AI加速器，將透過乙太網絡通用標準，連接數萬個加速器，為AI系統提供支援。與上一代相比，Intel Gaudi 3將BF16浮點格式的AI運算能力提高4倍，並將記憶體頻寬提高1.5倍。

至於Gaudi 3對比市場對手Nvidia的強大之處，是在具有70億和130億參數的Llama2模型及1,750億參數的GPT-3模型上，平均訓練時間比Nvidia H100縮短50%。

另在Llama 70億、700億參數以及Falcon 1800億參數模型中2，Intel Gaudi 3加速器的推理處理量，比H100平均高出50%，推理效能平均高出40%。

責任編輯：張寶燕

人工智能個人電腦（AI PC）成為2024 PC市場新趨勢及熱話，蘋果（Apple）近日推出配備M3芯片MacBook Air，本網與大家開箱直擊M3 MacBook Air的5大更新亮點！