四月我們迎來了AI芯片三連發！

4月9日Intel打頭陣，在Vision 2024活動中，發布了新一代Gaudi 3 AI芯片。同一天，Cloud Next 2024大會上，Google Cloud首度公開專為數據中心設計的首款Arm架構CPU──Google Axion。隔天，4月11日Meta官方發文，展示新款自研AI芯片MTIA。

在這三款產品中，Intel新一代Gaudi 3與NVIDIA H100展開直接競爭。在AI模型算力中，Gaudi3 AI芯片的模型訓練速度、推理速度都更出色，分別提升了40%和50%，平均性能提升達到了50%，能效更是提高了40%。更重要的是，Gaudi3 AI芯片的成本比H100更低，妥妥的性能更強，價格更低。

從官方公布的數據來看，Gaudi 3即使是面對NVIDIA的H200 GPU，表現也毫不遜色。在LLAMA-7B以及LLAMA-70B的部分場景與H200基本是伯仲之間，差距基本在10%以內。

Intel在Vision 2024上也同步介紹了這款芯片的生產節點，計劃在今年第三季度向客戶發貨Gaudi 3 AI芯片，包括聯想、惠普、Dell和Supermicro等OEM廠商都會使用這款新品構建系統。

但是Gaudi 3很難撼動NVIDIA在AI新領域的地位，即便加上AMD的Instinct MI300。

美銀分析師Vivek Arya發表研究報告指出，英偉達2024年AI加速器的占有率將超過75%，定制化芯片（如Google TPU、亞馬遜Trainium/Inferentia加速器、微軟Maia）的占有率為10~15%，而剩余的10~15%才是AMD、英特爾及其他未上市企業的天下。

盡管目前定制化芯片市場占有率不高，但幾乎所有服務商都在加速開發各類芯片芯片產品，Google也不例外。

在9日舉行的Cloud Next 2024大會上，Google Cloud首度公開專為數據中心設計的首款Arm架構CPU──Google Axion，相較目前最新一代的同等x86架構執行個體，效能最高提升50%、能源效率最高提升60%。

Axion CPU正在支持YouTube廣告、Google Earth Engine等多項Google服務。Google Cloud表示,Axion基于開放架構設計,使用Arm技術的客戶可以輕松采用,無需進行應用程序重構。

Google Cloud客戶可在旗下Compute Engine、Kubernetes Engine、Dataproc、Dataflow、Cloud Batch等云服務中使用Axion CPU。Google Cloud計劃于今年稍晚時間向客戶開放Axion CPU的使用。

此外，Google Cloud還推出了下一代AI加速器TPU v5p。單個TPU v5p Pod包含8,960個芯片，是上代TPU v4 Pod的2倍以上。

TPU v5p主要用于訓練規模最大、要求最高的生成式AI模型。Google Cloud不會對外直接銷售Axion CPU和TPU v5p芯片，而是提供給企業客戶作為云服務使用。這樣做不僅可以減少對英特爾、NVIDIA等外部供應商的依賴，還能更好地優化硬件以滿足自家業務的特定需求，為客戶提供更具競爭力的云計算和AI服務。

相比Google在AI算力方面具有的規模，Meta的資源相對較少。不過，Meta在AI領域的投入也可謂闊綽。此前有報道稱，Meta一次性購買了35萬枚NVIDIA H100 GPU，每張售價數萬美元，這極大地提升了其AI算力水平，為Meta在人工通用智能(AGI)領域的研發提供了強大支撐。

Meta計劃將其計算基礎設施升級為“相當于近60萬張H100的算力”。除購買GPU外，自研是另一條路徑。Meta基礎設施副總裁Alexis Bjorlin表示，自研硬件能讓公司控制整個技術棧，從數據中心設計到訓練框架，這種垂直整合是實現AI研究突破的關鍵。

去年五月Meta官宣了第一代AI推理加速器MTIA v1，近期又發布下一代產品。新款MTIA芯片采用5nm工藝，擁有更多的處理核心，功耗也從25W提升到了90W，時鐘頻率也從 800MHz提高到了1.35GHz。

Meta表示目前已經在16個數據中心使用新款MTIA芯片，與MTIA v1相比，整體性能提高了3倍。但Meta表示，這個提升是通過測試兩種芯片的 "四個關鍵模型" 性能表現得出的。

據Meta官方介紹，新一代MTIA的設計理念在于尋求計算、內存帶寬和內存容量三者之間的理想平衡。這一改進不僅優化了芯片的性能，更使得推理任務的執行變得更為順暢。

科技大廠自研定制化芯片，一方面是可以和自身需求高度匹配，另一方面也是出于安全和經濟性的考慮，拿NVIDIA H100來說，不僅售價不菲，而且還出現了產能的問題，而AI的發展有高度依賴算力支持。

所以科技巨頭內部開發芯片的運動正在增長。Meta正加入亞馬遜AWS、微軟和谷歌母公司Alphabet的行列，試圖擺脫這種昂貴的依賴。

然而，這并未對行業對NVIDIA AI加速器的巨大需求產生顯著影響。在AI熱潮下，NVIDIA成為世界第三大科技公司，僅次于微軟和蘋果公司。

其在2024財年的數據中心運營商銷售額總計475億美元，高于前一年的150億美元。分析師預測，這一數字在2025財年將進一步翻倍，來數年內這一地位可能還會進一步鞏固。

AI轉變PC處理器升級重點

AI技術的蓬勃發展不僅改變了服務器端芯片的走向，也正在深刻影響個人電腦(PC)處理器的發展。自蘋果M系列芯片率先集成神經網絡處理單元(NPU)以來，其他廠商也紛紛跟進。

AMD從銳龍7000系列筆記本處理器中開始加入NPU。而英特爾則在推出"AI PC"的概念時，明確將NPU作為硬性指標之一。

NPU是專門針對人工智能和機器學習場景進行優化設計的處理器。相比通用的CPU和GPU，NPU在硬件結構上做了針對性優化，專注于高效執行神經網絡推理等AI相關計算任務。

過去幾十年里，PC處理器的發展一直圍繞CPU性能提升為主。但在AI時代，各類AI技術的爆發性增長，迫使芯片廠商不得不在AI能力上下大力氣。微軟推出的Windows Copilot等AI功能，對PC芯片的AI性能提出了更高要求。

為滿足這一需求，AMD計劃在即將推出的Strix Point APU上大幅增強NPU性能，甚至犧牲了部分CPU和GPU緩存空間。英特爾在Arrow Lake、Lunar Lake和Panther Lake等新一代芯片中也投入了大量資源，致力于提升NPU算力，分別達到約35 TOPS、105 TOPS和140 TOPS。

可以看出，AI PC正成為芯片廠商新的競爭焦點。NPU正從輔助性能向核心功能轉變，未來可能成為PC處理器升級的重點，取代傳統CPU和GPU性能的優先地位。這一趨勢反映了AI正深刻改變著PC生態的技術架構。

SoC是大勢所趨

NPU的加入也在影響芯片設計制造方式，SoC（System-on-Chip）在手機行業中已經變得非常普遍，現在，這種集成設計的理念也開始滲透到個人電腦芯片的設計中，

SoC設計的優勢在于可以將CPU、GPU、NPU等各種功能單元集成在一個芯片上，使內存和處理器能夠更加緊密地集成，從而提高數據傳輸速度和整體系統性能。這正如蘋果M系列芯片所展現的優勢：通過緊密集成內存，可以顯著提升內存帶寬。

Intel的Core Ultra和AMD的Ryzen 8000系列處理器都采用了SoC設計，充分證明了這一趨勢。這些新一代處理器集成了CPU、GPU、NPU等多種功能單元，并且多數與板載內存直接連接，進一步提升了系統性能。

不過，對于桌面PC來說，SoC設計還存在一些局限性。臺式機處理器往往需要更強的升級性，而SoC結構不利于后續的硬件升級。因此，Intel和AMD在筆記本芯片上采用了SoC和傳統處理器+芯片組的雙線并進策略，以兼顧不同市場需求。