NVIDIA Blackwell GPU首次實測跑分:提升多達2.2倍
來源:快科技 編輯:非小米 時間:2024-11-14 21:00人閱讀
快科技11月14日消息,NVIDIA Blackwell GPU相當強悍,大家都知道,但到底有多強呢?
除了官方宣傳數據,現在終于第一次看到了實測數據,來自MLCommons MLPerf v4.1,考察AI訓練推理性能的最佳平臺。
對比對象是兩代服務器HGX B200、HGX H200,前者包含多達八顆Blackwell GPU B200,單顆功耗高達1000W。
GPT-3預訓練項目中,Blackwell的性能相比上代Hopper翻了一番。
Llama 2 700億參數微調項目中,Blackwell的性能更是提升了多達2.2倍。
值得一提的是,Blackwell平臺具備ConnectX-7 SuperNICs網卡、Quantum-2 InfiniBand交換機,再加上第五代NVLink互連總線,可以充分保障節點間的通信,可以平衡分配AI訓練負載,整體效率更高。
比如同樣的GPT-3 1750億參數性能,Hopper需要多達256顆GPU,Blackwell就只需要64顆。
分享到:
本站所有文章、數據、圖片均來自互聯網,一切版權均歸源網站或源作者所有。
如果侵犯了你的權益請來信告知我們刪除。郵箱:business@qudong.com