N卡賣到25萬還缺貨 Intel直擊NVIDIA軟肋:AI性價比遠(yuǎn)超H100
快科技7月15日消息,在AI市場上,NVIDIA現(xiàn)在是沒有對手的階段,AI顯卡份額估計在90%以上,AMD都很難競爭,現(xiàn)在Intel也加入這個市場了,而且找到了NVIDIA的一個痛點(diǎn),那就是性價比。
NVIDIA目前受追捧的AI顯卡主要是A100、H100,國內(nèi)有特供的閹割版A800、H800,性能比原版弱20%左右,但即便如此依然供不應(yīng)求,A800一周時間就從9萬元漲到11萬元以上,H100價格在25萬元以上,H800也要20萬出頭,而且不同經(jīng)銷商的價格差異很大。
Intel自然也不會放過這個市場,日前在國內(nèi)舉行發(fā)布會,也推出了AI顯卡Habana Gaudi2,這是去年底發(fā)布的AI推理加速芯片,從第一代的16nm工藝升級到7nm工藝,Tensor 處理器核心數(shù)量增至 24 個,同時集成了多媒體處理引擎,內(nèi)存升級至 96GB HBM2E。
國內(nèi)版的Gaudi2主要是閹割了部分網(wǎng)絡(luò)接口,但也集成了21路100Gbps網(wǎng)絡(luò)接口,總體來說性能依然很可觀。
Intel還公布了Gaudi2跟H100的AI性能對比,面對要求極為苛刻的、1750億參數(shù)的GPT-3模型,384個Gaudi2加速器上的訓(xùn)練時間僅為311.9分鐘,而且從256個加速器到384個加速器,性能擴(kuò)展幅度達(dá)95%。
NVIDIA這邊在512塊 H100 GPU上的訓(xùn)練時間則為64分鐘,論單卡性能的話是Gaudi2的3.6倍多,但是Intel不會跟H100拼極限性能,而是強(qiáng)調(diào)性價比。
Habana Labs 首席運(yùn)營官 Eitan Medina 表示,性價比是影響H100和Gaudi2相對價值的重要考量因素,Gaudi2 服務(wù)器的成本要比H100低得多。
更重要的是,目前Gaudi2還沒有支持AI常用的FP8運(yùn)算格式,這種情況下Gaudi2 在性價比上也勝過了H100,今年3季度會升級支持FP8運(yùn)算,Gaudi2的性能將有明顯飛躍,性價比要比H100更高了。
本站所有文章、數(shù)據(jù)、圖片均來自互聯(lián)網(wǎng),一切版權(quán)均歸源網(wǎng)站或源作者所有。
如果侵犯了你的權(quán)益請來信告知我們刪除。郵箱:business@qudong.com