英偉達(dá)：2023年數(shù)據(jù)中心看點(diǎn)幾何？

日前，英偉達(dá)2023 財(cái)年第一季度財(cái)務(wù)報(bào)告發(fā)布，創(chuàng)下 82.9 億美元的季度收入紀(jì)錄，較去年同期增長(zhǎng)46%，較上一季度增長(zhǎng)8%，其中，數(shù)據(jù)中心和游戲收入均創(chuàng)下季度紀(jì)錄。

在最近的COMPUTEX 2022上，英偉達(dá)展示了在數(shù)據(jù)中心、機(jī)器人、邊緣計(jì)算等方面的創(chuàng)新和生態(tài)進(jìn)展。

“三芯”布局即將成型，未來(lái)數(shù)據(jù)中心拼什么？

英偉達(dá)在最近的兩場(chǎng)GTC大會(huì)上發(fā)布了Grace CPU和Grace Hopper超級(jí)芯片，用以支持多種系統(tǒng)架構(gòu)中的各類計(jì)算密集型工作負(fù)載。隨著這兩款超級(jí)芯片于2023年上半年開(kāi)始供貨，英偉達(dá)CPU+GPU+DPU的產(chǎn)品組合完全形成，這無(wú)疑將進(jìn)一步鞏固英偉達(dá)在加速計(jì)算領(lǐng)域的地位。
 

與此同時(shí)，全球數(shù)據(jù)中心的競(jìng)爭(zhēng)也將更有看點(diǎn)。AMD在加快異構(gòu)計(jì)算平臺(tái)的搭建和創(chuàng)新，英特爾更強(qiáng)大的CPU、獨(dú)立GPU、新的制程工藝也將在接下來(lái)幾年內(nèi)推出。競(jìng)爭(zhēng)似乎將更為復(fù)雜、更為激烈。如何看待2023年之后的數(shù)據(jù)中心芯片市場(chǎng)？如何持續(xù)打造競(jìng)爭(zhēng)優(yōu)勢(shì)？

黃仁勛告訴<與非網(wǎng)>，友商都非常優(yōu)秀，不過(guò)，英偉達(dá)會(huì)專注于非常獨(dú)特的發(fā)展方式。他指出，人們通常認(rèn)為英偉達(dá)是一家芯片公司，但事實(shí)上，英偉達(dá)在很多方面都是一家垂直整合的人工智能公司，構(gòu)建了完整的軟件堆棧、芯片、系統(tǒng)、系統(tǒng)軟件和人工智能算法等，以開(kāi)放的方式向生態(tài)系統(tǒng)提供產(chǎn)品。不論用戶是想采用英偉達(dá)的芯片、系統(tǒng)，還是系統(tǒng)軟件、AI方案，英偉達(dá)都可以為用戶提供服務(wù)。

他強(qiáng)調(diào)，加速計(jì)算的世界與CPU截然不同，在CPU的世界中，一個(gè)不可思議的魔法叫做x86，每個(gè)運(yùn)行x86的軟件都在CPU上運(yùn)行。然而，沒(méi)有用于加速計(jì)算的x86。

“因此，每一個(gè)加速計(jì)算系統(tǒng)、芯片或架構(gòu)都是英偉達(dá)的架構(gòu)，你必須去建立自己的市場(chǎng)”，他表示，“在英偉達(dá)的加速計(jì)算平臺(tái)上運(yùn)行的應(yīng)用程序都來(lái)之不易，因?yàn)槲覀兎浅ＥΦ丶铀俜肿觿?dòng)力學(xué)、量子化學(xué)、強(qiáng)化學(xué)習(xí)，或是RNN、CNN、Transformers、LSTM等，這其中包括很多不同的算法，我們必須使其在英偉達(dá)的平臺(tái)上運(yùn)行良好。我們的做法是成為一家全方位的公司，為客戶帶來(lái)價(jià)值，允許平臺(tái)開(kāi)放，讓用戶可以按其所需地集成我們的芯片和技術(shù)。”

 
英偉達(dá)創(chuàng)始人兼CEO黃仁勛在Computex 2022期間接受<與非網(wǎng)>采訪

首次推出液冷GPU，打造綠色數(shù)據(jù)中心

為了遏制氣候變化，打造高性能、高能效的數(shù)據(jù)中心，數(shù)據(jù)中心運(yùn)營(yíng)商希望淘汰用于冷卻數(shù)據(jù)中心內(nèi)部氣體的冷水機(jī)組，因?yàn)樗鼈兠磕陼?huì)蒸發(fā)數(shù)百萬(wàn)加侖的水量。而借助液冷技術(shù)，系統(tǒng)僅需對(duì)封閉系統(tǒng)中的少量液體進(jìn)行循環(huán)利用，并能夠著重于主要的發(fā)熱點(diǎn)。

液冷技術(shù)誕生于大型機(jī)時(shí)代，在 AI 時(shí)代日臻成熟。如今，液冷技術(shù)已經(jīng)以直接芯片（Direct-to-Chip）冷卻的形式廣泛應(yīng)用于全球高速超級(jí)計(jì)算機(jī)。

日前，英偉達(dá)發(fā)布了率先采用直接芯片（Direct-to-Chip）冷卻技術(shù)的數(shù)據(jù)中心 PCIe GPU，這在主流服務(wù)器GPU中尚屬首例，助力實(shí)現(xiàn)可持續(xù)、高效的計(jì)算。

英偉達(dá)GPU在AI推理和高性能計(jì)算方面的能效已比CPU高出20倍。有數(shù)據(jù)表面，如果將全球所有運(yùn)行AI和HPC的CPU服務(wù)器切換為GPU加速系統(tǒng)，每年可節(jié)省高達(dá)11萬(wàn)億瓦時(shí)的能源，節(jié)約的能源量可供150 多萬(wàn)套房屋使用一年。

Equinix 是一家全球服務(wù)提供商，旗下管理的數(shù)據(jù)中心超過(guò) 240 個(gè)，致力于在業(yè)內(nèi)率先實(shí)現(xiàn)氣候中和。Equinix 正在驗(yàn)證 A100 80GB PCIe 液冷 GPU 在其數(shù)據(jù)中心的應(yīng)用，這也是該公司為實(shí)現(xiàn)可持續(xù)性冷卻和熱量捕獲的綜合性方案中的一部分。GPU 現(xiàn)已進(jìn)入試用階段，預(yù)計(jì)將于今年夏季正式發(fā)布。

“這是我們實(shí)驗(yàn)室中引入的首款液冷 GPU，我們倍感興奮，因?yàn)榭蛻羝惹邢Ｍㄟ^(guò)可持續(xù)的方式來(lái)利用 AI，”Equinix 邊緣基礎(chǔ)設(shè)施主管 Zac Smith說(shuō)道。

電源使用效率（PUE）用于衡量數(shù)據(jù)中心使用的能源有多少直接用于計(jì)算任務(wù)。當(dāng)前，數(shù)據(jù)中心運(yùn)營(yíng)商正試圖將 PUE 降至接近 1.0 的理想水平。Equinix 設(shè)施目前的平均PUE為 1.48，而其旗下新數(shù)據(jù)中心的 PUE 最低可低于 1.2。

在單獨(dú)的測(cè)試中，Equinix 和英偉達(dá)均發(fā)現(xiàn)：采用液冷技術(shù)的數(shù)據(jù)中心工作負(fù)載可與風(fēng)冷設(shè)施持平，同時(shí)消耗的能源減少了約 30%。英偉達(dá)估計(jì)，液冷數(shù)據(jù)中心的 PUE 可能達(dá)到 1.15，遠(yuǎn)低于風(fēng)冷的 PUE 1.6。

在空間相同的條件下，液冷數(shù)據(jù)中心可以實(shí)現(xiàn)雙倍的計(jì)算量。這是由于 A100 GPU 僅使用一個(gè) PCIe 插槽，而風(fēng)冷 A100 GPU 需使用兩個(gè) PCIe 插槽。

 
NVIDIA 借助液冷技術(shù)達(dá)到了節(jié)省電力和增加密度的效果

據(jù)了解，英偉達(dá)計(jì)劃于明年推出的一版 A100 PCIe 卡中，將搭載基于Hopper架構(gòu)的H100 Tensor Core GPU。近期內(nèi)，英偉達(dá)計(jì)劃將液冷技術(shù)應(yīng)用于自有高性能數(shù)據(jù)中心GPU和 NVIDIA HGX 平臺(tái)。

數(shù)據(jù)中心是數(shù)字基礎(chǔ)設(shè)施的重要載體。在“雙碳”目標(biāo)大背景下，減少碳排放、節(jié)能減排是重中之重。這將帶動(dòng)數(shù)據(jù)中心液冷技術(shù)的加速應(yīng)用，推動(dòng)液冷數(shù)據(jù)中心解決方案的需求增長(zhǎng)。

此外，液冷技術(shù)的使用范圍并不局限于數(shù)據(jù)中心，汽車和其他系統(tǒng)也需要利用該項(xiàng)技術(shù)來(lái)冷卻封閉空間內(nèi)的高性能系統(tǒng)。液冷GPU 在減少能耗的同時(shí)可維持性能不變，從目前的市場(chǎng)進(jìn)展來(lái)看，一些系統(tǒng)制造商已經(jīng)先行啟動(dòng)使用計(jì)劃，下一步有望快速在更大規(guī)模的應(yīng)用中落地。

據(jù)了解，至少有十幾家系統(tǒng)制造商計(jì)劃于今年晚些時(shí)候在其產(chǎn)品中使用液冷 GPU，包括華碩（ASUS）、永擎電子（ASRock Rack）、富士康工業(yè)互聯(lián)網(wǎng)（Foxconn Industrial Internet）、技嘉科技（GIGABYTE）、新華三（H3C）、浪潮（Inspur）、英業(yè)達(dá)（Inventec）、寧暢（Nettrix）、云達(dá)科技（QCT）、 超微（Supermicro）、 緯穎科技（Wiwynn）和超聚變（xFusion）。

多家廠商發(fā)布首批基于Grace超級(jí)芯片的系統(tǒng)設(shè)計(jì)

新的數(shù)據(jù)中心需求正在興起，即通過(guò)處理和挖掘海量數(shù)據(jù)來(lái)實(shí)現(xiàn)智能的“AI工廠”，而基于英偉達(dá)Grace超級(jí)芯片的新系統(tǒng)，將為全球新市場(chǎng)和行業(yè)注入加速計(jì)算的力量。目前，多家計(jì)算機(jī)制造商宣布將發(fā)布首批基于Grace CPU超級(jí)芯片和Grace Hopper超級(jí)芯片的系統(tǒng)，這些系統(tǒng)將用于數(shù)字孿生、AI、HPC、云圖形和游戲等各類工作負(fù)載。

預(yù)計(jì)從2023年上半年開(kāi)始，華碩、富士康工業(yè)互聯(lián)網(wǎng)、技嘉科技、云達(dá)科技、超微和緯穎將陸續(xù)推出幾十款服務(wù)器。基于Grace的系統(tǒng)將與x86和基于Arm的服務(wù)器一同提供廣泛的選擇空間，助力其數(shù)據(jù)中心實(shí)現(xiàn)高性能和高效率。

基于Grace CPU和Grace Hopper超級(jí)芯片，即將推出的服務(wù)器有四類系統(tǒng)設(shè)計(jì)：

NVIDIA HGX Grace Hopper系統(tǒng)：用于AI訓(xùn)練、推理和HPC，搭載Grace Hopper超級(jí)芯片和BlueField-3 DPU。

NVIDIA HGX Grace系統(tǒng)：用于HPC和超級(jí)計(jì)算，采用純CPU設(shè)計(jì)，搭載Grace CPU超級(jí)芯片和BlueField-3。

NVIDIA OVX系統(tǒng)：用于數(shù)字孿生和協(xié)作式工作負(fù)載，搭載Grace CPU超級(jí)芯片、BlueField-3和NVIDIA GPU。

NVIDIA CGX系統(tǒng)：用于云圖形和游戲，搭載Grace CPU超級(jí)芯片、BlueField-3和NVIDIA A16 GPU。

Grace CPU和Grace Hopper超級(jí)芯片服務(wù)器設(shè)計(jì)組合包括單路、雙路和四路配置的單底板系統(tǒng)，服務(wù)器制造商可根據(jù)客戶需求，為這些系統(tǒng)自定義以上四種特定工作負(fù)載的設(shè)計(jì)。

并且，英偉達(dá)也正在擴(kuò)展NVIDIA認(rèn)證系統(tǒng)計(jì)劃，以涵蓋采用Grace CPU和Grace Hopper超級(jí)芯片的服務(wù)器以及X86 CPU。預(yù)計(jì)首批OEM服務(wù)器認(rèn)證將在合作伙伴系統(tǒng)出貨后不久完成。

AI掀起新一輪機(jī)器人技術(shù)革命

機(jī)器人正在成為AI主要的新應(yīng)用。根據(jù)英偉達(dá)的發(fā)布，全球有30多家合作伙伴將推出首批基于NVIDIA Jetson AGX Orin的生產(chǎn)系統(tǒng)。十幾家中國(guó)臺(tái)灣的攝像頭、傳感器和硬件供應(yīng)商將推出新產(chǎn)品，用于邊緣AI、AIoT、機(jī)器人和嵌入式應(yīng)用。

Jetson Orin具有NVIDIA Ampere架構(gòu)GPU、Arm Cortex-A78AE CPU、下一代深度學(xué)習(xí)和視覺(jué)加速器、高速接口、更快的內(nèi)存帶寬并支持能夠?yàn)槎鄠€(gè)并發(fā)AI應(yīng)用管道提供數(shù)據(jù)的多模態(tài)傳感器。

全新Jetson AGX Orin生產(chǎn)模塊能夠?yàn)檫吘堿I帶來(lái)服務(wù)器級(jí)的性能。該模塊將于7月上市，Orin NX模塊將于9月上市。NVIDIA Jetson AGX Orin開(kāi)發(fā)者套件自3月的GTC大會(huì)開(kāi)始在全球全面上市，該套件可提供每秒275萬(wàn)億次運(yùn)算性能。在針腳兼容性與外形尺寸相同的情況下，其處理能力超過(guò)前代產(chǎn)品NVIDIA AGX Xavier 8倍。

寫(xiě)在最后

在全球宏觀環(huán)境充滿挑戰(zhàn)的背景下，英偉達(dá)最新的季度財(cái)報(bào)無(wú)疑進(jìn)一步增強(qiáng)了他們?cè)诩铀儆?jì)算領(lǐng)域的雄心。特別是在游戲創(chuàng)下季度業(yè)績(jī)紀(jì)錄的同時(shí)，數(shù)據(jù)中心終于成為了英偉達(dá)最大的業(yè)務(wù)。這表明深度學(xué)習(xí)對(duì)智能自動(dòng)化的效用，已經(jīng)大規(guī)模推動(dòng)了英偉達(dá)的產(chǎn)品在數(shù)據(jù)中心用于AI計(jì)算。

英偉達(dá)正在為下一步大規(guī)模的產(chǎn)品上新做準(zhǔn)備，全新的GPU、CPU、DPU和機(jī)器人處理器將于下半年陸續(xù)上市。隨著這些新的芯片和系統(tǒng)進(jìn)入市場(chǎng)，將會(huì)進(jìn)一步推動(dòng)AI、圖形、Omniverse、自動(dòng)駕駛和機(jī)器人的發(fā)展，也將進(jìn)一步驅(qū)動(dòng)相關(guān)行業(yè)的創(chuàng)新。