AI勢頭不可阻擋!英特爾酷睿Ultra筆記本NPU能力體驗
部署一個既能配音,又能陪聊,還能幫你畫畫的AI小助手,或許已經(jīng)成為大家未來的工作目標(biāo)了。
然而似乎每當(dāng)我們使用AI應(yīng)用(比如AI摳圖、AI背景替換)時,筆記本電腦似乎很容易就遇到“瓶頸”:不僅會開始卡頓,還呼呼作響,甚至續(xù)航時長也開始大幅縮減。
為此,Intel在今年中宣布了AI PC計劃,且很快在年底推出了Meteor Lake架構(gòu)的酷睿Ultra處理器,堪稱是有史以來提升最大一代處理器,具體特性如下:
1、Intel 4制程工藝,提升了超過20%的性能和能效。
2、全新三級核心結(jié)構(gòu),增加AI計算單元NPU。
3、集成顯卡性能提升1倍。
其中,最引人注目的便是那顆新加入的“NPU” (神經(jīng)網(wǎng)絡(luò)處理單元)。
我們可以將它比作理器里的AI小助手,它的存在就是為了提升用戶的AI應(yīng)用體驗。
在發(fā)布會中,Intel介紹Ultra處理器的NPU適用于持續(xù)的AI和分擔(dān)AI負載。
不難想象,擁有NPU的AI PC會有如下體驗上的提升:
1、更快的語音識別和語音助手響應(yīng)速度
2、更流暢的人臉識別和解鎖
3、更高效的圖像識別和處理
4、更智能的背景美化和視頻效果
5、甚至可以流暢運行大參數(shù)AI模型
最近,我們收到一臺搭載Meteor Lake架構(gòu)酷睿Ultra 155H處理器的華碩靈耀14 2024輕薄本,趁熱做了個AI性能和應(yīng)用測試。
通過UL Procyon AI Inference Benchmark推理性能基準(zhǔn)測試(涵蓋MobileNetV3、InceptionV4、YOLOV3、DeepLabV3、Real-ESRGAN和ResNet50等多種神經(jīng)網(wǎng)絡(luò)模型)發(fā)現(xiàn),Meteor Lake的AI推理能力是Arc iGPU(核芯顯卡)為先,NPU其次,最次為CPU。
檢測整機功耗發(fā)現(xiàn),NPU的AI計算效能要遠高于CPU,且高于GPU(Intel曾表示,NPU整體能耗比相比最多可以提升8倍之多)。
這說明NPU非常適合筆記本電腦這類對能效要求極高的移動設(shè)備,可用來承擔(dān)持續(xù)性的低計算量AI應(yīng)用計算——目的是減少整機功耗,提升續(xù)航。
那么,當(dāng)我們的筆記本電腦擁有NPU后,可能就會有兩個比較直觀的感受:
1、使用能進行AI運算的程序時,續(xù)航不容易“崩”了——NPU的AI運算能效比更高。
2、支持AI運算的AI應(yīng)用更流暢了——NPU可釋放CPU和GPU的運算壓力,物盡其能。
不過,實際應(yīng)用方面筆者尚未測試成功,因為在測試該產(chǎn)品時還處于產(chǎn)品保密階段,市面大部分應(yīng)用程序(包括Team、剪映、SD、LLM等)尚未支援NPU硬件加速(仍然主要依靠CPU和GPU計算)。
可以預(yù)見的是,隨著NPU處理器落地,大多數(shù)AI應(yīng)用將會迅速適配,整機能效會因此得到進一步的提升。不過實際適配結(jié)果如何,目前只能說“未來可期”。
總結(jié):
從原理上來說, NPU比通用CPU或GPU更擅長高效地并行完成低精度計算,且NPU在存儲方面擁有高帶寬、高容量的特性,數(shù)據(jù)吞吐量大、響應(yīng)延遲低的特點,對AI應(yīng)用效率提升起到積極作用。
NPU就像一個效率超高的AI計算專家,讓你的本本續(xù)航更持久的同時,也能流暢運行虛擬背景、實時美顏等各種酷炫的AI應(yīng)用。這便是目前NPU在PC設(shè)備中發(fā)揮的最明顯的作用。
理論上,擁有NPU計算單元的PC設(shè)備還會擁有更強的AI運算能力,可更高效地處理復(fù)雜AI模型,完成快速的計算和反饋。
Intel曾在Ultra發(fā)布會上表示,Ultra處理器已經(jīng)可以運行200億參數(shù)的AI大模型,且還親自展示了本地大語言模型和文生圖等AI應(yīng)用。
但是說實話,目前本地AI所生成的結(jié)果的準(zhǔn)確度、復(fù)雜度等方面仍不能與參數(shù)量更大的云端生成式AI應(yīng)用相媲美。
如果我們展望未來的話,我相信隨著越來越多的AI應(yīng)用對NPU加以支持,筆記本的續(xù)航和性能定會有顯而易見的提升(前提是你經(jīng)常使用此類AI運算的應(yīng)用)。
且隨著NPU單元算力,以及PC設(shè)備存儲能力的增強,未來在個人電腦上部署一個好用的本地千億參數(shù)量級的AI大模型,實現(xiàn)一個媲美云端AI的智能寫作或生圖功能,或許不是遙不可及的事情。
最后,未來我們還會持續(xù)官網(wǎng)基于NPU加速應(yīng)用落地的情況,并會持續(xù)針對酷睿Ultra處理器產(chǎn)品進行AI功性能和功耗表現(xiàn)等方面的詳細的測評。敬請關(guān)注PConline的最新內(nèi)容。
本站所有文章、數(shù)據(jù)、圖片均來自互聯(lián)網(wǎng),一切版權(quán)均歸源網(wǎng)站或源作者所有。
如果侵犯了你的權(quán)益請來信告知我們刪除。郵箱:business@qudong.com