AMD and NVIDIA's battle spreads to the AI field! Meta and Oracle announced a huge investment in the acquisition of AMD AI chips.

智通財經 APP 獲悉，CPU 與 GPU 雙產業巨頭、英偉達 (NVDA.US) 競爭對手之一 AMD(AMD.US) 於美東時間週三舉行 “Advancing AI” 發佈會，AMD 宣佈正式推出其旗艦款 AI GPU 加速器 MI300X，意味着 AMD 與英偉達之間的激烈競爭從 PC 領域全面延伸至 AI 領域，AMD 測試數據顯示其整體性能比英偉達 H100 高出 60%。除了如預期發佈諸如 Instinct MI300X、MI300A 等新產品外，在 AI 領域的一些全球領軍者也來到現場，比如 OpenAI、微軟以及 Meta，並表示他們後續將大量配置 AMD Instinct MI300X。

“Advancing AI” 發佈會上，首先登場的是 Instinct MI300X 加速器，由於 MI300 系列 AI 芯片的參數在半年前的產品宣傳活動上就已經公佈，本次 “Advancing AI” 發佈會更多聚焦於整套系統在實際應用中的表現，以及與 AI 訓練/推理領域熱度最高的英偉達 H100 AI 芯片的全方位性能對比。此外，AMD 將截至 2027 年的全球 AI 芯片市場規模預期，從 1500 億美元猛然上修至 4000 億美元。

AI 領域的全球領軍者 OpenAI、微軟 (MSFT.US) 以及 Meta(META.US) 週三在 AMD 活動上表示，他們將使用 AMD 最新的 AI 芯片 Instinct MI300X。這是迄今為止全球科技公司正在尋找昂貴的英偉達 H100 AI 芯片替代品的最明顯跡象。英偉達 H100 對於創建和部署 OpenAI 旗下的 ChatGPT 等生成式人工智能 (生成式 AI) 應用程序至關重要，如今 AI 芯片領域幾乎處於壟斷地位的英偉達 H100 終於有了強力競爭對手，那就是 AMD Instinct MI300X。

如果 AMD 最新的高端 AI 芯片在明年初開始出貨時，足以滿足構建人工智能大模型的科技公司和雲服務提供商的算力需求，同時降低科技公司開發人工智能模型的成本，勢必將對英偉達旗下銷售額不斷飆升的 AI 芯片構成巨大的競爭壓力。

AMD 首席執行官蘇姿豐 (Lisa Su) 週三表示:“潛在大客户的所有興趣基本上集中在雲計算領域的大型處理器和大型 GPU 上。”

AMD 表示，MI300X 基於一種全新的架構，這種架構通常會帶來顯著的性能提升。AMD 全新 AI 芯片最顯著的特點是擁有 192GB 的尖端高性能 HBM3 內存，傳輸數據速度更快，可以適應更大規模的人工智能模型。

被 AMD 粉絲們親切稱為 “蘇媽” 的蘇姿豐在發佈會上直接將 MI300X 及其構建的系統與英偉達的主要 AI 芯片 H100 進行了比較。“這種性能直接轉化為更好的用户體驗，” 蘇姿豐表示。“當你向模型提出要求時，你希望它能更快地回覆，尤其是在反應變得更復雜的情況下。”

AMD 面臨的主要問題在於，一直以英偉達軟硬件為基礎的公司是否會投入時間和金錢來信任另一家 AI 芯片供應商。AMD 週三告訴投資者和合作夥伴，該公司已經改進了名為 ROCm 的配套軟件套件，以與英偉達的行業標準 CUDA 軟件相競爭，一定程度上解決了 AMD 在 AI 芯片領域面臨的一個關鍵缺陷——那就是軟硬件生態系統，而這個缺陷一直是人工智能開發者目前更喜歡英偉達旗下產品的主要原因之一。

AMD 在週三並未透露 MI300X 的定價，但英偉達 AI 芯片每塊售價高達 4 萬美元，蘇姿豐表示，AMD 的芯片必須比英偉達的芯片購買和運營成本更低，才能説服潛在大客户購買。

雖然發佈會的內容基本上符合市場預期，但似乎未提振 AMD 股價。在週三美股科技股集體走弱的背景下，AMD 發佈會還沒開完，股價就由漲轉跌，最終收跌超 1%，但是盤後漲幅超過 1%。

由於 AMD 即將推出與英偉達 H100 相抗衡的高性能 AI 芯片，華爾街分析師們對於 AMD 股價普遍看漲，Seeking Alpha 彙編的華爾街分析師共識評級以及目標價顯示，華爾街分析師們對 AMD 的共識評級為 “買入”，平均目標價預期達 132.24 美元，意味着未來 12 個月潛在漲幅高達 13%，最高目標價則為 200 美元。

性能強於英偉達 H100! AMD 大幅上調市場規模預期

與 AI 訓練/推理領域熱度最高的英偉達 H100 AI 芯片的最新性能對比數據顯示，在一般 LLM 內核 TFLOP 中，MI300X 在 FlashAttention-2 和 Llama 2 70B 中提供較英偉達 H100高達 20% 的性能提升幅度。從平台的角度來看，將 8x MI300X 解決方案與 8x 英偉達 H100 解決方案進行比較，AMD 發現 Llama 2 70B 的增益程度要大得多，高達 40%，Bloom 176B 基準下的增益程度則高達 60%。

具體的 AMD Instinct MI300X 與英偉達 H100 性能對比數據顯示：

在 1v1 比較中，整體性能比 H100 (Llama 2 70B) 提高 20%

在 1v1 比較中，整體性能比 H100 (FlashAttention 2) 提高 20%

8v8 服務器中的整體性能比 H100 (Llama 2 70B) 提高 40%

在 8v8 服務器中，整體性能比 H100 (Bloom 176B) 提高 60%

最新 MI300 AI 芯片背後的驅動力是 AMD ROCm 6.0。該軟件堆棧已更新到最新版本，具有強大的新功能，包括支持各種人工智能工作負載任務量，例如生成式人工智能和大語言模型 (LLM)。

內存是 AMD 另一個巨大的升級領域，MI300X 的 HBM3 容量比其前身 MI250X(128 GB) 增加了 50%。為了實現高達 192GB 的內存池，AMD 為 MI300X 配備了 8 個 HBM3 堆棧，每個堆棧都是 12-Hi，同時整合了 16Gb IC，每個 IC 具有 2GB 容量，或每個堆棧具有高達 24GB 的容量。

該級別的內存規模將提供高達 5.3TB/s 的帶寬和 896GB/s 的 Infinity Fabric 帶寬。相比之下，英偉達即將推出的 H200 AI 芯片提供 141GB 容量，而英特爾 Gaudi3 將提供 141GB 容量。功耗方面，AMD Instinct MI300X 的額定功率為 750W，比 Instinct MI250X 的 500W 提升了 50%，比 NVIDIA H200 多了 50W。

AMD 在週三對 AI 芯片領域的未來市場規模給出了大膽的預測數據，認為 AI 芯片市場將迅猛擴張。具體來説，AMD 預計 AI 芯片市場整體規模到 2027 年將達到超過 4000 億美元，較該公司幾個月前提供的 1500 億美元上調將近兩倍，凸顯全球各大企業對人工智能硬件的預期快速變化，各企業正在迅速佈局全新的 AI 產品。

有哪些科技巨頭將使用 MI300X?

AMD 在週三的發佈會上表示，該公司已經與一些最需要 GPU 的科技公司簽訂了使用該芯片的協議。根據研究公司 Omidia 最近的一份報告，Meta 和微軟是 2023 年英偉達 H100 AI 芯片的最大規模買家。

在發佈會上，Facebook 和 Instagram 母公司 Meta 公開表示，該公司未來將大量使用 MI300X GPU 處理人工智能推理工作負載，如處理人工智能貼紙、圖像編輯和操作其 AI 助手，並表示結合 ROCm 軟件堆棧來支持 AI 推理工作負載。

微軟首席技術官 Kevin Scott 公開表示，微軟將通過其 Azure 網絡服務提供對 MI300X 芯片的技術訪問通道。此外，同日消息顯示，微軟未來將評估對 AMD 的 AI 芯片產品的需求，評估採用該新品的可行性。

ChatGPT 開發商 OpenAI 表示，該公司將在一款名為 Triton 的重要軟件產品中支持 AMD MI300 等 GPU。Triton 不是像 GPT-4 那樣的大語言模型，但對於人工智能研究領域來説是非常重要的產品。

英偉達最大規模客户之一甲骨文表示，將在自己的雲計算服務體系中使用 Instinct MI300X 加速器，並計劃基於 AMD Instinct MI300X 開發生成式 AI 服務。

AMD 目前還沒有預測該 AI 芯片的長期銷售額，目前只給出了 2024 年預期，預計 2024 年數據中心 GPU 帶來的總營收規模約為 20 億美元。僅在最近一個季度，英偉達的數據中心業務營收就超過 140 億美元，不過這一數據還包括 GPU 以外的業務。然而，AMD 表示，未來四年，AI 芯片領域的總市場規模可能將攀升至 4000 億美元，是該公司此前預測值的兩倍。

蘇姿豐還向記者表示，AMD 並不認為它需要擊敗英偉達才能在市場上取得好成績。在談到人工智能芯片市場時，蘇姿豐對記者表示:“我認為很明顯，英偉達現在佔據絕大多數。”“我們認為，到 2027 年，AI 芯片市場規模可能會超過 4000 億美元，而我們將扮演重要角色。”