NVIDIA真正死敵!AMD宣布MI300X GPU加速器:1530億晶體怪獸管
快科技6月14日舊金山現(xiàn)場報道:AI浪潮中,NVIDIA無疑是最大受益者,A100等加速卡供不應(yīng)求,多年耕耘的成熟生態(tài)更是大大降低了開發(fā)難度和成本。
當(dāng)然,Intel、AMD不會讓NVIDIA獨美,都在嘗試各自的方案,設(shè)計新的硬件產(chǎn)品。
Intel一方面是傳統(tǒng)的至強x86 CPU處理器,另一方面是基于Xe HPC高性能計算架構(gòu)的GPU,首款產(chǎn)品Ponte Vecchio已經(jīng)用于超級計算機,還在嘗試融合CPU+GPU,打造所謂的XPU,只是首款產(chǎn)品Flacon Shores出師未捷,退回了純GPU方案,未來再沖擊CPU+GPU融合。
AMD在硬件層面的進(jìn)展就順利多了,不但有越來越強悍的EPYC CPU處理器,Instinct系列加速卡也是每一代都在飛躍。
早在今年初,AMD就宣布了新一代Instinct MI300,是全球首款同時集成CPU、GPU的數(shù)據(jù)中心APU。
現(xiàn)在,它的名字變成了Instinct MI300A,同時AMD還首次宣布了全新的純GPU產(chǎn)品——“Instinct MI300X”。
Instinct MI300A號稱全球首款面向HPC、AI的APU加速器,基于AMD多年的成熟豐富經(jīng)驗,實現(xiàn)了CPU、GPU的完美合體。
Instinct MI300A一共有多達(dá)13顆小芯片,其中計算部分9顆,都是5nm工藝制造。
CPU部分為Zen4架構(gòu),三顆CCD芯片,24個核心,GPU為最新的CDNA3架構(gòu),六顆XCD芯片,核心單元數(shù)量仍未公布,還有128MB容量的HBM3高帶寬內(nèi)存,可以為CPU、GPU所共享。
另外4顆芯片都是6nm工藝制造,是計算部分3D堆疊的基礎(chǔ),作為有源中介層,可以處理I/O和其他各種功能。
整顆芯片有多達(dá)1460億個晶體管,超過了Intel 1000億個晶體管的Ponte Vecchio,而且后者只有GPU。
標(biāo)準(zhǔn)的Socket獨立封裝(不是SP5),有了它就不再需要單獨的EPYC處理器,一顆芯片組就能構(gòu)成一個完整的計算系統(tǒng)。
Instinct MI300X和前輩一樣是純GPU方案,其實就是把Instinct MI300A里的那個CPU單元也換成了CDNA3 GPU單元,HBM3高帶寬內(nèi)存也增加到了192GB,相當(dāng)于NVIDIA H100 80GB的足足2.4倍。
同時,HBM內(nèi)存帶寬高達(dá)5.2TB/s,Infinity Fabric總線帶寬也有896GB/s,同樣遠(yuǎn)超NVIDIA H100。
晶體管數(shù)量進(jìn)一步來到1530億個,跨越了1500億大關(guān),嘆為觀止。
發(fā)布會現(xiàn)場,AMD第一次公開展示了Instinct MI300X,實時輸出了一首關(guān)于舊金山的詩歌。
它單卡即可輕松運行400億參數(shù)的大語言模型,面對不同模型、參數(shù)規(guī)模所需的GPU數(shù)量相比競品更少,自然成本更低。
同時,AMD還宣布了新的Instinct平臺,基于業(yè)界標(biāo)準(zhǔn)的OCP開放計算標(biāo)準(zhǔn),八塊Instinct MI300X加速卡并行,可提供總計多達(dá)1.5TB HBM3內(nèi)存。
Instinct MI300A現(xiàn)已出樣,Instinct MI300X將在第三季度出樣,相關(guān)產(chǎn)品預(yù)計第四季度上市。
本站所有文章、數(shù)據(jù)、圖片均來自互聯(lián)網(wǎng),一切版權(quán)均歸源網(wǎng)站或源作者所有。
如果侵犯了你的權(quán)益請來信告知我們刪除。郵箱:business@qudong.com