NVLINK升級至1.4TB/s!NVIDIA Blackwell已在數(shù)據(jù)中心運(yùn)行
快科技8月25日消息,據(jù)媒體報(bào)道,NVIDIA在近期的吹風(fēng)會(huì)上,展示了Blackwell在數(shù)據(jù)中心的運(yùn)行情況,并駁斥了此前關(guān)于Blackwell推遲上市的傳聞。
不僅如此,NVIDIA NVLINK技術(shù)也迎來了重大升級,帶寬翻倍達(dá)到1.4TB/s。
Blackwell平臺(tái)不僅包含Blackwell GPU,還集成了Grace CPU、NVLINK Switch Chip、Bluefield-3、ConnectX-7、ConnectX-8、Spectrum-4和Quantum-3等多種芯片,形成了一個(gè)全面的數(shù)據(jù)中心解決方案。
Blackwell平臺(tái)的設(shè)計(jì)目標(biāo)是滿足現(xiàn)代人工智能的需求,特別是針對超大型語言模型的計(jì)算需求,隨著AI模型參數(shù)的不斷增長,數(shù)據(jù)中心對計(jì)算能力和低延遲的要求也越來越高。
Blackwell平臺(tái)的多GPU推理方法,通過在多個(gè)GPU上分配計(jì)算任務(wù),實(shí)現(xiàn)了低延遲和高吞吐量的處理能力。
NVIDIA通過Blackwell推出了速度更快的NVLINK交換機(jī),該交換機(jī)基于臺(tái)積電4NP節(jié)點(diǎn),提供了1.8TB/s的雙向NVLINK帶寬,能夠連接72個(gè)GPU,大幅提高了數(shù)據(jù)中心的通信效率。
NVIDIA還分享了全球首張使用FP4計(jì)算生成的人工智能圖像,展示了FP4量化模型在速度上的顯著優(yōu)勢,同時(shí)保持了與FP16模型相似的圖像質(zhì)量。
本站所有文章、數(shù)據(jù)、圖片均來自互聯(lián)網(wǎng),一切版權(quán)均歸源網(wǎng)站或源作者所有。
如果侵犯了你的權(quán)益請來信告知我們刪除。郵箱:business@qudong.com