前不久，英偉達(dá)在對(duì)GTC2024大會(huì)進(jìn)行預(yù)熱時(shí)稱，黃仁勛將在大會(huì)上發(fā)布加速計(jì)算、生成式AI以及機(jī)器人領(lǐng)域的最新突破性成果。在AI持續(xù)火爆的當(dāng)下，英偉達(dá)GTC2024的官宣無(wú)疑成為AI領(lǐng)域的重頭戲。果不其然，在今日凌晨，黃仁勛拋出了重磅炸彈。

英偉達(dá)推出成本與能耗較前代改善25倍的AI芯片

英偉達(dá)在發(fā)表《見證AI的變革時(shí)刻》演講中宣布，正式發(fā)布名為Blackwell的新一代AI圖形處理器(GPU)，稱其“非常非常強(qiáng)大”，基于Blackwell技術(shù)，英偉達(dá)將推出B200和GB200系列芯片。

據(jù)悉，Blackwell平臺(tái)能夠在萬(wàn)億參數(shù)級(jí)的大型語(yǔ)言模型(LLM)上構(gòu)建和運(yùn)行實(shí)時(shí)生成式AI，而成本和能耗比前身低25倍。英偉達(dá)還稱，Blackwell架構(gòu)系列芯片是迄今為止功能最強(qiáng)大的AI芯片家族。

據(jù)黃仁勛介紹，B200擁有2080億個(gè)晶體管，而H100/H200有800億個(gè)晶體管，采用臺(tái)積電4NP工藝制程，可以支持多達(dá)10萬(wàn)億個(gè)參數(shù)的AI大模型。該芯片還通過(guò)單個(gè)GPU提供20 petaflops的AI性能，而單個(gè)H100最多可提供4 petaflops的AI計(jì)算。

Blackwell架構(gòu)系列芯片也將降低能耗，仁勛舉例稱，如果要訓(xùn)練一個(gè)1.8萬(wàn)億參數(shù)量的GPT模型，需要8000張Hopper GPU，消耗15兆瓦的電力，連續(xù)跑上90天。但如果使用Blackwell GPU，只需要2000張，同樣跑90天只要消耗四分之一的電力。

微軟Azure、AWS、谷歌云等一眾科技巨頭都是Blackwell架構(gòu)的首批用戶。“生成式AI是我們這個(gè)時(shí)代的決定性技術(shù)。Blackwell是推動(dòng)這場(chǎng)新工業(yè)革命的引擎。通過(guò)與世界上最具活力的公司合作，我們將實(shí)現(xiàn)AI在各行各業(yè)的承諾。”黃仁勛表示。

發(fā)布新一代AI超級(jí)計(jì)算機(jī)

英偉達(dá)還宣布新一代AI超級(jí)計(jì)算機(jī)——NVIDIA DGX SuperPOD，其搭載NVIDIA GB200 Grace Blackwell超級(jí)芯片。黃仁勛稱，這臺(tái)AI超級(jí)計(jì)算機(jī)可以用于處理萬(wàn)億參數(shù)模型，能夠保證超大規(guī)模生成式AI訓(xùn)練和推理工作負(fù)載的持續(xù)運(yùn)行。

在配置上，全新DGX SuperPOD采用新型高效液冷機(jī)架級(jí)擴(kuò)展架構(gòu)，基于NVIDIA DGX GB200系統(tǒng)構(gòu)建而成，在FP4精度下可提供11.5 exaflops的AI超級(jí)計(jì)算性能和240 TB的快速顯存，且可通過(guò)增加機(jī)架來(lái)擴(kuò)展性能。

與NVIDIA H100 Tensor Core GPU相比，GB200超級(jí)芯片在大語(yǔ)言模型推理工作負(fù)載方面的性能提升了高達(dá) 30倍。

在NVIDIA GB200的支撐下，性能也有了大幅度提升。據(jù)悉，每個(gè)DGX GB200系統(tǒng)搭載36個(gè)NVIDIA GB200超級(jí)芯片，共包含36個(gè)NVIDIA Grace CPU和72個(gè)NVIDIA Blackwell GPU。這些超級(jí)芯片通過(guò)第五代 NVIDIA NVLink連接成一臺(tái)超級(jí)計(jì)算機(jī)。

基于DGX GB200和DGX B200系統(tǒng)構(gòu)建而成的NVIDIA DGX SuperPOD將于今年晚些時(shí)候提供。“VIDIA DGX AI超級(jí)計(jì)算機(jī)是推進(jìn)AI產(chǎn)業(yè)變革的工廠。新一代DGX SuperPOD集 NVIDIA加速計(jì)算、網(wǎng)絡(luò)和軟件方面的最新進(jìn)展于一體，能夠幫助每一個(gè)企業(yè)、行業(yè)和國(guó)家完善并生成自己的AI。”黃仁勛表示。

英偉達(dá)推出系列微服務(wù)

在演講中，黃仁勛還宣布推出AI微服務(wù)，用于在自己平臺(tái)上創(chuàng)建和部署定制應(yīng)用。黃仁勛表示：“未來(lái)軟件開發(fā)或許要依靠NIMs(Nvidia inference micro service)，用與AI聊天的形式調(diào)動(dòng)一堆NIMs來(lái)完成訓(xùn)練、應(yīng)用的部署。”而英偉達(dá)的愿景是成為AI軟件的“晶圓廠”。

這些云原生微服務(wù)目錄在NVIDIA CUDA平臺(tái)上開發(fā)，其中包括NVIDIA NIM微服務(wù)，可適用于NVIDIA及合作伙伴生態(tài)系統(tǒng)中20多個(gè)熱門的AI模型進(jìn)行推理優(yōu)化。在性能表現(xiàn)上，NIM微服務(wù)提供基于NVIDIA推理軟件的預(yù)構(gòu)建容器，包括Triton推理服務(wù)器和TensorRT-LLM，使開發(fā)者能夠?qū)⒉渴饡r(shí)間從幾周縮短至幾分鐘。

同時(shí)，用戶現(xiàn)能夠以NVIDIA CUDA-X微服務(wù)的形式使用NVIDIA加速軟件開發(fā)套件、庫(kù)和工具，用于檢索增強(qiáng)生成(RAG)、護(hù)欄、數(shù)據(jù)處理、HPC等。CUDA-X微服務(wù)為數(shù)據(jù)準(zhǔn)備、定制和訓(xùn)練提供端到端的構(gòu)建模塊，助力各行各業(yè)加快開發(fā)生產(chǎn)級(jí)AI。

NVIDIA還發(fā)布20多項(xiàng)醫(yī)療NIM和CUDA-X微服務(wù)。黃仁勛表示：“這些精心挑選的微服務(wù)為NVIDIA全棧計(jì)算平臺(tái)增添了新的一層，連接起了由模型開發(fā)人員、平臺(tái)提供商和企業(yè)組成的AI生態(tài)系統(tǒng)，使其能夠通過(guò)標(biāo)準(zhǔn)化的路徑來(lái)運(yùn)行針對(duì)NVIDIA CUDA安裝基礎(chǔ)(在云、數(shù)據(jù)中心、工作站和PC中的數(shù)以億計(jì)的GPU)優(yōu)化的定制AI模型。”

除了領(lǐng)先的應(yīng)用提供商外，NVIDIA生態(tài)系統(tǒng)中的數(shù)據(jù)、基礎(chǔ)設(shè)施和計(jì)算平臺(tái)提供商也在使用NVIDIA微服務(wù)，為企業(yè)帶來(lái)生成式AI。

包括Box、Cloudera、Cohesity、Datastax、Dropbox和NetApp在內(nèi)的頂級(jí)數(shù)據(jù)平臺(tái)提供商正在使用NVIDIA微服務(wù)，幫助客戶優(yōu)化RAG管道，并將專有數(shù)據(jù)集成到生成式AI應(yīng)用中。

人形機(jī)器人通用基礎(chǔ)模型發(fā)布

當(dāng)前關(guān)注度較高的人形機(jī)器人也出現(xiàn)在黃仁勛的演講中，他表示：“在我們的世界里，類人機(jī)器人很有可能會(huì)發(fā)揮更大的作用，我們?cè)O(shè)置工作站、制造和物流的方式，并不是為人類設(shè)計(jì)的。因此，這些機(jī)器人的部署可能會(huì)更有成效。”

黃仁勛在演講中發(fā)布了人形機(jī)器人通用基礎(chǔ)模型 Project GR00T，并發(fā)布基于 NVIDIA Thor系統(tǒng)級(jí)芯片(SoC)的新型人形機(jī)器人計(jì)算機(jī) Jetson Thor，對(duì) NVIDIA Isaac機(jī)器人平臺(tái)進(jìn)行了重大升級(jí)。

GR00T使用的Isaac工具還能夠?yàn)樵谌魏苇h(huán)境中的任何機(jī)器人創(chuàng)建新的基礎(chǔ)模型，包括用于強(qiáng)化學(xué)習(xí)的Isaac Lab和用于計(jì)算編排服務(wù)的OSMO。

新的Isaac Lab是一個(gè)GPU加速、性能優(yōu)化的輕量級(jí)應(yīng)用，基于Isaac Sim而構(gòu)建，專門用于運(yùn)行數(shù)千個(gè)用于機(jī)器人學(xué)習(xí)的并行仿真。而OSMO是在分布式環(huán)境中協(xié)調(diào)數(shù)據(jù)生成、模型訓(xùn)練和軟硬件在環(huán)工作流。

最新發(fā)布的Jetson Thor是一個(gè)全新的計(jì)算平臺(tái)，能夠執(zhí)行復(fù)雜的任務(wù)并安全、自然地與人和機(jī)器交互，具有針對(duì)性能、功耗和尺寸優(yōu)化的模塊化架構(gòu)。

在黃仁勛的介紹中，我們了解到，包括一個(gè)帶有transformer engine的下一代GPU，其采用NVIDIA Blackwell架構(gòu)，可提供每秒800萬(wàn)億次8位浮點(diǎn)運(yùn)算AI性能，以運(yùn)行GR00T等多模態(tài)生成式AI模型。

“NVIDIA正在為1X Technologies、Agility Robotics、Apptronik、波士頓動(dòng)力公司、Figure AI、傅利葉智能、Sanctuary AI、宇樹科技和小鵬鵬行等人形機(jī)器人公司開發(fā)AI平臺(tái)。”黃仁勛如是說(shuō)。

發(fā)布集中式車載計(jì)算平臺(tái)、交換機(jī)......

英偉達(dá)還宣布交通運(yùn)輸領(lǐng)域的領(lǐng)先企業(yè)已采用NVIDIA DRIVE Thor集中式車載計(jì)算平臺(tái)，包括新能源汽車(NEV)、卡車、自動(dòng)駕駛出租車、自動(dòng)駕駛公交車和無(wú)人配送車。

DRIVE Thor可提供豐富的座艙功能，以及安全可靠的高度自動(dòng)化駕駛和無(wú)人駕駛功能，并將所有功能整合至同一個(gè)集中式平臺(tái)上。黃仁勛在演講中指出，這款新一代自動(dòng)駕駛汽車(AV)平臺(tái)將搭載專為Transformer、大語(yǔ)言模型(LLM)和生成式AI工作負(fù)載而打造的全新NVIDIA Blackwell架構(gòu)。

據(jù)悉，比亞迪、廣汽埃安、小鵬、理想汽車和極氪均已宣布將在DRIVE Thor上構(gòu)建其未來(lái)的汽車產(chǎn)品。Plus、Waabi、文遠(yuǎn)知行、Nuro將選擇DRIVE Thor進(jìn)行創(chuàng)新與驗(yàn)證。DRIVE Thor預(yù)計(jì)最早將于明年開始量產(chǎn)。

在演講中，黃仁勛還發(fā)布專為大規(guī)模AI量身訂制的全新網(wǎng)絡(luò)交換機(jī)——X800系列。NVIDIA Quantum-X800 InfiniBand網(wǎng)絡(luò)和NVIDIA Spectrum-X800以太網(wǎng)絡(luò)是全球首批高達(dá) 800Gb/s端到端吞吐量的網(wǎng)絡(luò)平臺(tái)，將計(jì)算和AI工作負(fù)載的網(wǎng)絡(luò)性能提升到了一個(gè)新的水平。

寫在最后

技術(shù)發(fā)展日新月異。文生視頻Sora的發(fā)布、人形機(jī)器人賽道的爆火，人工智能領(lǐng)域正在經(jīng)歷著一次又一次的變革與發(fā)展。作為人工智能的重要元素之一，算力尤其是智算已經(jīng)成為AI領(lǐng)域的剛需。

在此背景下，我們看到英偉達(dá)在算力領(lǐng)域的迭代極為迅速，從算力、硬件端推動(dòng)AI的進(jìn)步。當(dāng)然，除了在算力的發(fā)布外，GTC2024上還帶來(lái)應(yīng)用層、生態(tài)層的諸多驚喜。

對(duì)于此次發(fā)布，機(jī)構(gòu)人士認(rèn)為，2024年英偉達(dá)GTC大會(huì)超預(yù)期火爆，預(yù)示著AI商業(yè)落地的趨勢(shì)或?qū)⒓铀伲懔A(chǔ)設(shè)施為AI應(yīng)用的持續(xù)落地的基礎(chǔ)，英偉達(dá)供應(yīng)鏈及其他AI算力及應(yīng)用相關(guān)公司將迎來(lái)發(fā)展機(jī)遇。

未來(lái)已來(lái)，2024年英偉達(dá)已拋出性能更強(qiáng)的AI處理器Blackwell，新一輪的AI競(jìng)賽也將拉開帷幕。