加入星計(jì)劃,您可以享受以下權(quán)益:

  • 創(chuàng)作內(nèi)容快速變現(xiàn)
  • 行業(yè)影響力擴(kuò)散
  • 作品版權(quán)保護(hù)
  • 300W+ 專業(yè)用戶
  • 1.5W+ 優(yōu)質(zhì)創(chuàng)作者
  • 5000+ 長期合作伙伴
立即加入
  • 正文
    • “夜市情結(jié)”和成為行業(yè)的“AI工廠”
    • 算力通貨膨脹不能再繼續(xù),加速計(jì)算實(shí)現(xiàn)可持續(xù)增長
    • Blackwell——新產(chǎn)業(yè)革命的引擎
    • 公布最新路線圖,回應(yīng)網(wǎng)絡(luò)平臺(tái)演進(jìn)方向
    • NVIDIA NIM讓數(shù)百萬人成為生成式AI開發(fā)者
    • AI的下一波浪潮——物理AI
  • 推薦器件
  • 相關(guān)推薦
  • 電子產(chǎn)業(yè)圖譜
申請(qǐng)入駐 產(chǎn)業(yè)圖譜

黃仁勛“松弛感”演講談創(chuàng)新:偉大的智慧是退后一步

06/03 13:02
5983
閱讀需 13 分鐘
加入交流群
掃碼加入
獲取工程師必備禮包
參與熱點(diǎn)資訊討論

NVIDIA創(chuàng)始人兼首席執(zhí)行官黃仁勛,給COMPUTEX大會(huì)帶來了一場(chǎng)極具“松弛感”的主題演講?;氐匠錾氐乃?,不論是逛夜市、吃美食還是登臺(tái)演講,都顯得放松且親切。他在演講中不僅談到了自己的“夜市情結(jié)”,還回憶了童年的夜市“趣事”……

演講中,黃仁勛詳細(xì)介紹了新的芯片平臺(tái)、軟件和系統(tǒng),它們將為新型數(shù)據(jù)中心、工廠、消費(fèi)級(jí)設(shè)備、機(jī)器人等提供助力,此外,降低成本和可持續(xù)增長的重要性也是他著重強(qiáng)調(diào)的一點(diǎn)。歷數(shù)了加速計(jì)算的種種好處后,黃仁勛再現(xiàn)“名場(chǎng)面”:the more you buy, the more you save.

“夜市情結(jié)”和成為行業(yè)的“AI工廠”

身家已經(jīng)超過900億美元的黃仁勛,在這次公開演講中談到了自己的“夜市情結(jié)”。據(jù)他回憶,大約四五歲,他就非常喜歡去夜市,因?yàn)樗矚g在那里觀察人群。有一次,有人洗刀不小心割傷了他的臉,這道傷疤一直留在了他的臉上……即便如此,夜市對(duì)他來說依然有著很大的吸引力,直到現(xiàn)在他都喜歡去。

黃仁勛“插播”這個(gè)小故事時(shí)正講到了ChatGPT的變革。人都會(huì)有某些特別的想法或意圖,不同于以往的計(jì)算機(jī)應(yīng)用,ChatGPT能夠清楚理解人的意圖,并且像人類一樣與之互動(dòng)。

2016年,黃仁勛親手將世界上第一臺(tái)DGX-1超級(jí)計(jì)算機(jī)交給Open AI后,使得Transformer能夠基于巨大的數(shù)據(jù)集進(jìn)行訓(xùn)練。直到2023年,ChatGPT橫空出世,業(yè)界現(xiàn)在開啟了由AI工廠驅(qū)動(dòng)的新產(chǎn)業(yè)革命。

黃仁勛談到,幾乎每天都有新的AI模型被發(fā)明,且每一個(gè)行業(yè)都在導(dǎo)入AI大模型應(yīng)用。3萬億美元的IT行業(yè),首次將創(chuàng)造能夠直接服務(wù)于100萬億美元產(chǎn)業(yè)的價(jià)值,它不再僅僅是信息存儲(chǔ)或數(shù)據(jù)處理的工具,而是為每個(gè)行業(yè)生成智能的AI工廠。

算力通貨膨脹不能再繼續(xù),加速計(jì)算實(shí)現(xiàn)可持續(xù)增長

這一切,如果沒有加速計(jì)算會(huì)怎么樣?

黃仁勛指出,兩件根本性的事情在發(fā)生:第一,中央處理單元(CPU)——計(jì)算機(jī)行業(yè)運(yùn)行的核心部件,其性能擴(kuò)展已經(jīng)大幅放緩;第二,我們不得不進(jìn)行的計(jì)算量,仍然在非常迅速地呈指數(shù)級(jí)翻倍。

“處理需求指數(shù)級(jí)增長,而性能卻沒有跟上,我們正在經(jīng)歷計(jì)算能力的通貨膨脹。全世界數(shù)據(jù)中心的電力在大幅增長,計(jì)算成本正在上升,這種情況不能繼續(xù)下去。這也是為什么,近二十年來,我們一直在致力于加速計(jì)算”,黃仁勛表示,“我們應(yīng)該加速一切,每一個(gè)處理密集型的應(yīng)用都將被加速?!?/p>

NVIDIA通過CPU與GPU的組合實(shí)現(xiàn)了這一點(diǎn)。由GPU加速所實(shí)現(xiàn)的100個(gè)時(shí)間單位的節(jié)約,也就是實(shí)現(xiàn)100倍速度的提升,相應(yīng)所需付出的是3倍功耗、1.5倍成本。此處黃仁勛再次加入了那句經(jīng)典廣告詞“The more you buy…The more you save”,他強(qiáng)調(diào),加速計(jì)算可顯著節(jié)約成本和能源,實(shí)現(xiàn)可持續(xù)的增長。

Blackwell——新產(chǎn)業(yè)革命的引擎

黃仁勛在演講中提到,偉大的智慧是退后一步。在生成式AI的熱潮來臨之前,他需要思考:人工智能的背景是什么?深度學(xué)習(xí)的基礎(chǔ)是什么?長期的影響是什么?它的潛力是什么?……

當(dāng)他意識(shí)到這項(xiàng)技術(shù)有很大的潛力去擴(kuò)展一個(gè)算法實(shí)現(xiàn)的時(shí)候,他認(rèn)為這將需要更多的數(shù)據(jù)、更大規(guī)模的網(wǎng)絡(luò),非常重要的是——更多的計(jì)算能力,而Blackwell就是為了這一代AI而設(shè)計(jì)的。

Computex期間,NVIDIA與全球多家計(jì)算機(jī)制造商發(fā)布一系列采用Blackwell 架構(gòu)的系統(tǒng),這些系統(tǒng)搭載了Grace CPU 以及 NVIDIA 網(wǎng)絡(luò)和基礎(chǔ)設(shè)施。永擎電子、華碩、技嘉、鴻佰科技、英業(yè)達(dá)、和碩、QCT、Supermicro、緯創(chuàng)資通和緯穎將使用 NVIDIA GPU 和網(wǎng)絡(luò)打造云、專用系統(tǒng)、嵌入式和邊緣 AI 系統(tǒng)。

黃仁勛表示,“從服務(wù)器、網(wǎng)絡(luò)和基礎(chǔ)設(shè)施制造商到軟件開發(fā)商,整個(gè)行業(yè)正在準(zhǔn)備使用 Blackwell 來加速各個(gè)領(lǐng)域?qū)崿F(xiàn) AI 驅(qū)動(dòng)的創(chuàng)新?!?/p>

為了滿足各類應(yīng)用的需求,所發(fā)布的產(chǎn)品配置非常豐富,涵蓋了從單 GPU 到多 GPU、從 x86到Grace、從風(fēng)冷到液冷技術(shù)等。

此外,為了加快不同規(guī)模和配置的系統(tǒng)開發(fā),NVIDIA MGX 模塊化參考設(shè)計(jì)平臺(tái)加入了對(duì) NVIDIA Blackwell 產(chǎn)品的支持,包括全新 NVIDIA GB200 NVL2 平臺(tái),該平臺(tái)專為主流大語言模型推理、檢索增強(qiáng)生成和數(shù)據(jù)處理提供卓越的性能而打造。借助 NVLink-C2C 互連技術(shù)帶來的高帶寬內(nèi)存性能和Blackwell 架構(gòu)中專有的解壓縮引擎,較使用x86 CPU時(shí)數(shù)據(jù)處理速度可提速最多達(dá)18倍,能效提高了8倍。

值得一提的是,AMD和英特爾都支持MGX 架構(gòu),并首次計(jì)劃打造基于他們自己 CPU 主機(jī)處理器的模塊設(shè)計(jì),其中包括下一代 AMD Turin 平臺(tái)和基于P核心的第六代英特爾至強(qiáng)處理器(原 Granite Rapids)。服務(wù)器系統(tǒng)廠商可以借助這些參考設(shè)計(jì)節(jié)省開發(fā)時(shí)間,并確保設(shè)計(jì)和性能的一致性。

“人工智能的出現(xiàn)之所以成為可能,是因?yàn)槲覀冇羞@樣一種堅(jiān)定的信念:如果我們使計(jì)算成本越來越低,總會(huì)有人實(shí)現(xiàn)它的偉大用途。如今,我們已經(jīng)實(shí)現(xiàn)了一個(gè)循環(huán):部署基礎(chǔ)在增長、計(jì)算成本在下降,這驅(qū)動(dòng)更多的開發(fā)者提出更多的創(chuàng)意,從而推動(dòng)了更多的需求……現(xiàn)在我們正處于一個(gè)非常重要、非常重要的開始階段”,他強(qiáng)調(diào)。

在Blackwell出現(xiàn)之前,Hopper平臺(tái)可能是歷史上最成功的數(shù)據(jù)中心處理器。但是對(duì)于生成式AI應(yīng)用來說, NVIDIA構(gòu)建了整個(gè)包括CPU、GPU、網(wǎng)絡(luò)連接等在內(nèi)的平臺(tái),使Blackwell成為了新的產(chǎn)業(yè)引擎。

“8年內(nèi),我們使用Blackwell,將原本的1000千兆瓦時(shí)減少到了3千瓦時(shí),這是一個(gè)令人難以置信的進(jìn)步”,黃仁勛表示,“我們不會(huì)就此止步。在這種難以置信的增長期間,我們要確保繼續(xù)提高性能、繼續(xù)降低訓(xùn)練成本、推理成本,并繼續(xù)擴(kuò)大AI能力,讓每個(gè)公司都擁抱它。”

公布最新路線圖,回應(yīng)網(wǎng)絡(luò)平臺(tái)演進(jìn)方向

“我們公司的更新節(jié)奏是以年為單位。我們的基本理念非常簡單:打造數(shù)據(jù)中心規(guī)模,以每年的節(jié)奏分步驟實(shí)現(xiàn)、并向客戶交付產(chǎn)品,在各個(gè)領(lǐng)域?qū)崿F(xiàn)技術(shù)突破,”黃仁勛解釋道。

他“劇透”了最新的技術(shù)路線圖,該路線圖將每年更新。根據(jù)這一發(fā)布,我們可以看到NVIDIA將在明年推出增強(qiáng)版Blackwell Ultra GPU(配備8S HBM3e 12H)和Spectrum Ultra X800(Ethernet Switch 512 Radix)。

繼加速計(jì)算能力的比拼之外,很顯然,網(wǎng)絡(luò)正在成為新的競(jìng)爭焦點(diǎn),特別是在以太網(wǎng)方面,多家行業(yè)巨頭正在結(jié)成聯(lián)盟。對(duì)于NVIDIA來說,其網(wǎng)絡(luò)平臺(tái)除了要考慮配合GPU的升級(jí),同時(shí)也要面臨業(yè)界的激烈競(jìng)爭。這將如何推動(dòng)NVIDIA網(wǎng)絡(luò)平臺(tái)的演進(jìn)?核心的競(jìng)爭點(diǎn)是什么?

對(duì)此,NVIDIA對(duì)<與非網(wǎng)>進(jìn)行了回應(yīng):為了滿足行業(yè)對(duì)性能的強(qiáng)烈需求,NVIDIA 計(jì)劃每年推出新的Spectrum-X 產(chǎn)品,提供更高的帶寬和端口,以及增強(qiáng)的軟件功能集和可編程性,以推動(dòng)領(lǐng)先的AI以太網(wǎng)網(wǎng)絡(luò)性能。NVIDIA持續(xù)的性能改進(jìn)節(jié)奏將建立在一系列關(guān)鍵創(chuàng)新之上,例如:自適應(yīng)路由、擁塞控制和高頻遙測(cè)等,這些創(chuàng)新加快了訓(xùn)練時(shí)間,同時(shí)還提供了噪聲隔離、彈性和可編程性等優(yōu)勢(shì)。

NVIDIA方面強(qiáng)調(diào),這些功能是他們所獨(dú)有的,依賴于Spectrum交換機(jī)和NVIDIA BlueField 或 ConnectX SuperNIC 的專業(yè)化和差異化架構(gòu),同時(shí)保持完全以太網(wǎng)兼容,從而實(shí)現(xiàn)與現(xiàn)有數(shù)據(jù)中心基礎(chǔ)設(shè)施的無縫集成。

此外,黃仁勛首次透露了Blackwell 的下一代平臺(tái)Rubin。預(yù)計(jì)2026年推出的Rubin平臺(tái),將配備新 GPU、基于Arm的新CPU——Vera,以及采用 NVLink 6、CX9 SuperNIC 和 X1600、并融合 InfiniBand/以太網(wǎng)交換機(jī)的高級(jí)網(wǎng)絡(luò)平臺(tái)。

NVIDIA NIM讓數(shù)百萬人成為生成式AI開發(fā)者

在生成式AI推動(dòng)的全棧重塑中,一個(gè)變革也在發(fā)生——計(jì)算機(jī)不再是我們使用的一個(gè)工具,它將具有生成AI的能力。

黃仁勛宣布,借助NVIDIA NIM推理微服務(wù),全球2800萬開發(fā)者都可以創(chuàng)建生成式AI應(yīng)用。NIM 還能幫助企業(yè)實(shí)現(xiàn)基礎(chǔ)設(shè)施投資的效果最大化。例如,與未使用NIM的情況相比,在NIM中運(yùn)行 Meta Llama 3-8B 所能生成的加速基礎(chǔ)設(shè)施AI token可以提升3倍。

Cadence、Cloudera、Cohesity、DataStax、NetApp、Scale AI 和新思科技等近 200 家技術(shù)合作伙伴正將 NIM 集成到他們的平臺(tái)中,加快生成式 AI 部署到特定領(lǐng)域應(yīng)用中的速度,例如copilots、代碼助手、數(shù)字人虛擬形象等。從 Meta Llama 3 開始,在 Hugging Face上現(xiàn)已開始提供 NIM。

AI的下一波浪潮——物理AI

在演講進(jìn)入尾聲時(shí),黃仁勛強(qiáng)調(diào)了機(jī)器人和人工智能在未來發(fā)展中的重要性。他指出,“AI 的新一波浪潮是物理AI。AI能夠理解物理定律,并與人類并肩作戰(zhàn)?!?/p>

NVIDIA Isaac 平臺(tái)為開發(fā)者構(gòu)建AI機(jī)器人提供強(qiáng)大的套件,包括由 AI 模型以及Jetson Orin、Thor 等超級(jí)計(jì)算機(jī)驅(qū)動(dòng)的 AMR、工業(yè)機(jī)械臂和人形機(jī)器人。

黃仁勛也強(qiáng)調(diào)了NVIDIA Isaac在提高工廠和倉庫效率方面的作用,比亞迪電子、西門子、泰瑞達(dá)、Intrinsic 等企業(yè)都在使用 NVIDIA Isaac 的高級(jí)程序庫和 AI 模型。

“機(jī)器人將遍布所有工廠。工廠將實(shí)現(xiàn)對(duì)機(jī)器人的統(tǒng)籌,而這些機(jī)器人將制造新的機(jī)器人產(chǎn)品,”黃仁勛表示,“機(jī)器人和物理AI正在成為現(xiàn)實(shí),而不僅是出現(xiàn)在科幻小說?!?/p>

推薦器件

更多器件
器件型號(hào) 數(shù)量 器件廠商 器件描述 數(shù)據(jù)手冊(cè) ECAD模型 風(fēng)險(xiǎn)等級(jí) 參考價(jià)格 更多信息
FT230XS-R 1 FTDI Chip Microprocessor Circuit, CMOS, PDSO16,

ECAD模型

下載ECAD模型
$2.26 查看
ATMEGA644PA-AUR 1 Microchip Technology Inc IC MCU 8BIT 64KB FLASH 44TQFP
$4.99 查看
ATXMEGA128A3U-MH 1 Atmel Corporation RISC Microcontroller, 16-Bit, FLASH, AVR RISC CPU, 32MHz, CMOS, 9 X 9 MM, 1 MM HEIGHT, 0.50 MM PITCH, GREEN, MO-220VMMD, MLF-64
$6.98 查看
英偉達(dá)

英偉達(dá)

NVIDIA(中國大陸譯名:英偉達(dá),港臺(tái)譯名:輝達(dá)),成立于1993年,是一家美國跨國科技公司,總部位于加利福尼亞州圣克拉拉市,由黃仁勛、克里斯·馬拉科夫斯基(Chris Malachowsky)和柯蒂斯·普里姆(Curtis Priem)共同創(chuàng)立。公司早期專注于圖形芯片設(shè)計(jì)業(yè)務(wù),隨著公司技術(shù)與業(yè)務(wù)發(fā)展,已成長為一家提供全棧計(jì)算的人工智能公司,致力于開發(fā)CPU、DPU、GPU和AI軟件,為建筑工程、金融服務(wù)、科學(xué)研究、制造業(yè)、汽車等領(lǐng)域的計(jì)算解決方案提供支持。

NVIDIA(中國大陸譯名:英偉達(dá),港臺(tái)譯名:輝達(dá)),成立于1993年,是一家美國跨國科技公司,總部位于加利福尼亞州圣克拉拉市,由黃仁勛、克里斯·馬拉科夫斯基(Chris Malachowsky)和柯蒂斯·普里姆(Curtis Priem)共同創(chuàng)立。公司早期專注于圖形芯片設(shè)計(jì)業(yè)務(wù),隨著公司技術(shù)與業(yè)務(wù)發(fā)展,已成長為一家提供全棧計(jì)算的人工智能公司,致力于開發(fā)CPU、DPU、GPU和AI軟件,為建筑工程、金融服務(wù)、科學(xué)研究、制造業(yè)、汽車等領(lǐng)域的計(jì)算解決方案提供支持。收起

查看更多

相關(guān)推薦

電子產(chǎn)業(yè)圖譜

與非網(wǎng)資深行業(yè)分析師。主要關(guān)注人工智能、智能消費(fèi)電子等領(lǐng)域。電子科技領(lǐng)域?qū)I(yè)媒體十余載,善于縱深洞悉行業(yè)趨勢(shì)。歡迎交流~