AI時(shí)代，存儲(chǔ)技術(shù)創(chuàng)新如何驅(qū)動(dòng)數(shù)據(jù)中心、PC、自動(dòng)駕駛新需求？

美光副總裁暨客戶端存儲(chǔ)事業(yè)部總經(jīng)理Prasad Alluri

近年來，AI技術(shù)的迅速發(fā)展加速了存儲(chǔ)技術(shù)的創(chuàng)新與迭代，從智能手機(jī)的AI應(yīng)用到汽車自動(dòng)駕駛、數(shù)據(jù)中心，存儲(chǔ)技術(shù)的進(jìn)步正成為推動(dòng)AI應(yīng)用創(chuàng)新的關(guān)鍵力量。

在日前舉行的GMIF （Global Memory Industry Forum）2024峰會(huì)期間，美光副總裁暨客戶端存儲(chǔ)事業(yè)部總經(jīng)理Prasad Alluri接受了與非網(wǎng)記者的采訪。美光的產(chǎn)品線覆蓋了從企業(yè)計(jì)算、客戶端計(jì)算到汽車、工業(yè)和邊緣計(jì)算等廣泛領(lǐng)域。Prasad Alluri詳細(xì)介紹了美光的產(chǎn)品如何滿足不同環(huán)境中的多樣化需求。展示了其如何通過存儲(chǔ)與內(nèi)存技術(shù)的協(xié)同優(yōu)化，助力技術(shù)進(jìn)步并保持市場(chǎng)領(lǐng)先地位。

Prasad Alluri擁有豐富的技術(shù)與管理經(jīng)驗(yàn)，曾在英特爾、摩托羅拉等公司擔(dān)任要職。在美光的五年中，他主導(dǎo)了多項(xiàng)戰(zhàn)略項(xiàng)目，特別是在AI數(shù)據(jù)中心和存儲(chǔ)技術(shù)方面的布局。Alluri指出，“AI的迅速發(fā)展加速了存儲(chǔ)技術(shù)的迭代，從智能手機(jī)的AI應(yīng)用到自動(dòng)駕駛，存儲(chǔ)和內(nèi)存技術(shù)正成為推動(dòng)行業(yè)創(chuàng)新的關(guān)鍵力量。”

AI應(yīng)用創(chuàng)新對(duì)存儲(chǔ)技術(shù)帶來哪些需求？

隨著AI技術(shù)在各個(gè)領(lǐng)域的廣泛應(yīng)用，存儲(chǔ)技術(shù)的角色也在發(fā)生顯著變化。它不再僅僅是容量和速度的提供者，而是逐漸成為系統(tǒng)架構(gòu)深度優(yōu)化的重要組成部分。這一變革不僅為AI應(yīng)用提供了更高效的計(jì)算支持，還推動(dòng)了存儲(chǔ)行業(yè)的技術(shù)創(chuàng)新，尤其在應(yīng)對(duì)AI對(duì)存儲(chǔ)系統(tǒng)提出的新需求方面表現(xiàn)突出。

在傳統(tǒng)的計(jì)算架構(gòu)中，存儲(chǔ)設(shè)備和計(jì)算單元（如CPU或GPU）通常是分開的。存儲(chǔ)設(shè)備的主要功能是為計(jì)算單元提供數(shù)據(jù)，二者之間通過存儲(chǔ)器接口進(jìn)行通信。然而，隨著AI技術(shù)的快速崛起，特別是在深度學(xué)習(xí)、大規(guī)模模型訓(xùn)練等領(lǐng)域，這種獨(dú)立運(yùn)作的模式逐漸暴露出局限性。AI應(yīng)用對(duì)數(shù)據(jù)處理的需求遠(yuǎn)遠(yuǎn)超過傳統(tǒng)架構(gòu)所能承載的上限。AI訓(xùn)練和推理需要處理龐大且復(fù)雜的數(shù)據(jù)集，單純依賴存儲(chǔ)設(shè)備提供數(shù)據(jù)已經(jīng)無法滿足其對(duì)效率和速度的高要求。

Prasad Alluri對(duì)與非網(wǎng)記者表示，AI不僅需要更大的存儲(chǔ)容量，還要求存儲(chǔ)設(shè)備和計(jì)算單元之間的協(xié)同優(yōu)化，以加速數(shù)據(jù)傳輸、降低延遲、提高數(shù)據(jù)處理效率。對(duì)于AI模型訓(xùn)練，尤其是復(fù)雜的深度學(xué)習(xí)模型，如何快速將存儲(chǔ)中的數(shù)據(jù)傳輸?shù)接?jì)算單元，成為提升整體AI性能的關(guān)鍵所在。

為了應(yīng)對(duì)AI對(duì)存儲(chǔ)和計(jì)算協(xié)同工作模式的需求，存儲(chǔ)廠商開始力推CXL（Compute Express Link）技術(shù)。這項(xiàng)技術(shù)旨在增強(qiáng)存儲(chǔ)設(shè)備與計(jì)算單元之間的互操作性，允許多個(gè)系統(tǒng)節(jié)點(diǎn)共享內(nèi)存資源。這種內(nèi)存擴(kuò)展功能在AI模型的訓(xùn)練過程中，尤其是在多GPU系統(tǒng)中，能大幅提高數(shù)據(jù)傳輸?shù)耐掏铝?，?yōu)化AI計(jì)算的整體性能。對(duì)于AI模型訓(xùn)練來說，這意味著更快的數(shù)據(jù)訪問速度、更低的延遲，以及更高效的計(jì)算能力。特別是在需要高效處理大量數(shù)據(jù)的任務(wù)中，如圖像識(shí)別、語音處理等，CXL技術(shù)為數(shù)據(jù)傳輸瓶頸提供了有效解決方案，極大提高了存儲(chǔ)和計(jì)算的協(xié)同性。

隨著AI技術(shù)的深入發(fā)展，PC和數(shù)據(jù)中心產(chǎn)業(yè)都隨之發(fā)生了巨大的變化。其中AI PC不僅需要具備傳統(tǒng)PC的功能，還需要處理大量AI推理和訓(xùn)練任務(wù)。因此，其存儲(chǔ)需求與傳統(tǒng)PC有很大不同。微軟針對(duì)AI PC提出的基準(zhǔn)硬件要求是40 TOPS的NPU、16GB內(nèi)存和256GB存儲(chǔ)容量，這些配置只是滿足最低性能的基礎(chǔ)要求。

在AI PC中，LPDDR5X和LPCAMM2內(nèi)存模塊的設(shè)計(jì)實(shí)現(xiàn)了顯著的能效提升。LPCAMM2內(nèi)存模塊通過整合多個(gè)SODIMM模塊為單一模塊的方式，不僅節(jié)省了空間，還顯著降低了功耗。這種集成方案使LPCAMM2在保持高性能的同時(shí)大幅減少了能耗，成為了下一代AI和PC應(yīng)用的理想選擇。

Alluri指出，隨著AI應(yīng)用的復(fù)雜度不斷增加，未來的AI PC將需要更高規(guī)格的存儲(chǔ)和內(nèi)存配置。例如，美光建議為AI PC配置24GB至32GB的DRAM，并搭載高性能的SSD存儲(chǔ)設(shè)備，如美光3500 SSD。這款存儲(chǔ)產(chǎn)品通過啟發(fā)式算法，能夠根據(jù)不同的工作負(fù)載動(dòng)態(tài)調(diào)節(jié)能耗，在功耗最低的情況下提供高效的吞吐量。這使得美光在AI計(jì)算中的存儲(chǔ)解決方案更具優(yōu)勢(shì)，并為未來低功耗高性能計(jì)算奠定了技術(shù)基礎(chǔ)。通過優(yōu)化存儲(chǔ)性能，AI PC能夠在執(zhí)行高強(qiáng)度AI推理任務(wù)時(shí)提供流暢的使用體驗(yàn)，而不會(huì)顯著增加功耗。這種優(yōu)化方向預(yù)示著未來的AI PC將在高性能和低功耗之間取得良好的平衡。

在數(shù)據(jù)中心領(lǐng)域，AI模型訓(xùn)練的復(fù)雜度和數(shù)據(jù)量持續(xù)攀升，這種趨勢(shì)推動(dòng)了存儲(chǔ)容量需求的爆發(fā)式增長。美光通過高密度DDR5內(nèi)存以及創(chuàng)新的CXL內(nèi)存和SSD等解決方案，推動(dòng)了GPU和AI加速器的數(shù)據(jù)處理性能大幅提升。

AI模型的訓(xùn)練通常需要大量的計(jì)算資源和海量數(shù)據(jù)，這對(duì)數(shù)據(jù)中心的存儲(chǔ)設(shè)備提出了更高的要求。Alluri在采訪中解釋了AI數(shù)據(jù)中心的兩大核心存儲(chǔ)需求：一是用于存儲(chǔ)海量訓(xùn)練數(shù)據(jù)的“數(shù)據(jù)湖”；二是靠近GPU集群的高性能存儲(chǔ)池，專門用于高效傳輸訓(xùn)練數(shù)據(jù)到計(jì)算單元。

數(shù)據(jù)湖是AI模型訓(xùn)練的重要基礎(chǔ)，特別是對(duì)于像GPT-4這樣的大規(guī)模語言模型，模型訓(xùn)練往往需要消耗互聯(lián)網(wǎng)上大量的數(shù)據(jù)。因此，數(shù)據(jù)湖的存儲(chǔ)容量和數(shù)據(jù)管理能力至關(guān)重要。傳統(tǒng)的存儲(chǔ)設(shè)備，如硬盤驅(qū)動(dòng)器（HDD），由于其相對(duì)較慢的讀寫速度和隨機(jī)存取性能，已經(jīng)無法滿足AI模型訓(xùn)練的需求。為了應(yīng)對(duì)這些挑戰(zhàn)，美光推出了6500 ION系列SSD，專為AI數(shù)據(jù)中心設(shè)計(jì)。這款產(chǎn)品不僅提供了大容量的存儲(chǔ)，還通過能效優(yōu)化減少了物理空間和功耗的需求，使得AI數(shù)據(jù)中心能夠更高效地處理海量數(shù)據(jù)，降低運(yùn)行成本。

除了數(shù)據(jù)湖，AI模型的訓(xùn)練還需要快速將數(shù)據(jù)傳輸給GPU進(jìn)行計(jì)算。因此，靠近GPU的高性能存儲(chǔ)池變得尤為重要。在這種應(yīng)用場(chǎng)景中，存儲(chǔ)的隨機(jī)性能決定了模型訓(xùn)練的效率。Alluri特別提到，美光的9550 SSD針對(duì)隨機(jī)讀取進(jìn)行了優(yōu)化，其讀取速率達(dá)到了3,300 KIOPS，遠(yuǎn)超行業(yè)標(biāo)準(zhǔn)。這一性能提升對(duì)于處理圖神經(jīng)網(wǎng)絡(luò)（GNN）等復(fù)雜AI模型尤為重要，因?yàn)檫@些模型訓(xùn)練的數(shù)據(jù)訪問模式是高度隨機(jī)的。通過9550 SSD的優(yōu)化，GNN訓(xùn)練效率提升了約33%，大幅減少了數(shù)據(jù)傳輸?shù)钠款i。

AI數(shù)據(jù)中心在追求高性能的同時(shí)，還必須考慮能效問題。AI模型訓(xùn)練是高能耗的任務(wù)，特別是處理海量數(shù)據(jù)時(shí)，能源消耗會(huì)顯著增加。美光在開發(fā)9550 SSD時(shí)，除了注重提升性能，還在能效優(yōu)化方面進(jìn)行了深入研究。與競(jìng)爭對(duì)手相比，9550 SSD在相同負(fù)載下的能效表現(xiàn)更加出色。在圖神經(jīng)網(wǎng)絡(luò)（GNN）等應(yīng)用中，9550 SSD的能效比競(jìng)品高出29%。此外，在NVIDIA的Magnum IO GPUDirect Storage解決方案中，9550 SSD每傳輸1TB數(shù)據(jù)的能耗減少了81%。在MLPerf基準(zhǔn)測(cè)試中，9550 SSD的能耗降低了35%，而整個(gè)系統(tǒng)的總能耗也減少了13%。這些數(shù)據(jù)表明，美光在提升存儲(chǔ)性能的同時(shí)，也通過能效優(yōu)化為AI數(shù)據(jù)中心提供了更具可持續(xù)性的解決方案。

美光的技術(shù)創(chuàng)新不僅限于硬件層面的突破，還通過啟發(fā)式算法優(yōu)化存儲(chǔ)設(shè)備的能效和性能，特別是在AI數(shù)據(jù)中心中。Prasad Alluri多次提到，隨著AI工作負(fù)載的動(dòng)態(tài)性增強(qiáng)，存儲(chǔ)系統(tǒng)需要在高性能和低功耗之間實(shí)現(xiàn)靈活切換。美光通過存儲(chǔ)器件的智能調(diào)控技術(shù)，使其在AI數(shù)據(jù)中心中的能效表現(xiàn)顯著提升，滿足了未來AI應(yīng)用對(duì)存儲(chǔ)的苛刻要求。

美光如何應(yīng)對(duì)汽車AI需求的挑戰(zhàn)？

除了PC和數(shù)據(jù)中心，AI在汽車行業(yè)也推動(dòng)了前所未有的轉(zhuǎn)型，特別是自動(dòng)駕駛技術(shù)也為車載存儲(chǔ)帶來新的需求和挑戰(zhàn)。隨著車輛功能的日益復(fù)雜，尤其是智能網(wǎng)聯(lián)汽車和自動(dòng)駕駛的發(fā)展，存儲(chǔ)需求呈現(xiàn)出爆炸式增長。

根據(jù)美光發(fā)布的白皮書，到2025年，每輛汽車預(yù)計(jì)將搭載16GB DRAM和204GB NAND，這將分別比2021年水平提高三倍和四倍。汽車存儲(chǔ)市場(chǎng)規(guī)模也將從2021年的40億美元增長至2025年的100億美元，年復(fù)合增長率達(dá)到28%。

Alluri對(duì)與非網(wǎng)記者指出，自動(dòng)駕駛技術(shù)的發(fā)展是推動(dòng)這一增長的主要?jiǎng)恿Α＼囕v正在從分散架構(gòu)向區(qū)域集中架構(gòu)轉(zhuǎn)變，這種轉(zhuǎn)變帶來了對(duì)集中存儲(chǔ)和處理的需求。例如，區(qū)域架構(gòu)能夠支持更為集中化的計(jì)算和控制系統(tǒng)，但也要求存儲(chǔ)系統(tǒng)具備更高的吞吐量、更低的延遲以及強(qiáng)大的安全性和耐久性。

與傳統(tǒng)計(jì)算設(shè)備不同，汽車存儲(chǔ)必須在極端的環(huán)境中長時(shí)間穩(wěn)定工作。Alluri特別提到：“汽車設(shè)計(jì)要求存儲(chǔ)設(shè)備能夠承受高振動(dòng)、極端溫度和粉塵等挑戰(zhàn)，并且保持高性能運(yùn)作，通常長達(dá)十年。” 這種耐久性要求使得車載存儲(chǔ)解決方案與消費(fèi)電子和數(shù)據(jù)中心產(chǎn)品有顯著不同。

Alluri指出，虛擬化技術(shù)將成為汽車存儲(chǔ)領(lǐng)域的一個(gè)重要趨勢(shì)。通過將不同類型的存儲(chǔ)需求劃分到不同的命名空間中，汽車制造商可以更好地管理和保護(hù)車輛中的關(guān)鍵數(shù)據(jù)。此外，隨著區(qū)域架構(gòu)的推廣，集中式存儲(chǔ)將進(jìn)一步取代傳統(tǒng)的分散式存儲(chǔ)，這將為智能汽車提供更強(qiáng)大的數(shù)據(jù)處理能力和更低的系統(tǒng)復(fù)雜性。Alluri還強(qiáng)調(diào)，安全性將是未來汽車存儲(chǔ)發(fā)展的關(guān)鍵要素。隨著聯(lián)網(wǎng)功能的普及，車輛面臨的網(wǎng)絡(luò)攻擊風(fēng)險(xiǎn)日益增加，因此存儲(chǔ)系統(tǒng)需要具備強(qiáng)大的安全機(jī)制，以確保在自動(dòng)駕駛和聯(lián)網(wǎng)操作中的安全性。

應(yīng)對(duì)這些挑戰(zhàn)，美光推出了4150AT SSD，這是專門為汽車市場(chǎng)開發(fā)的高性能存儲(chǔ)解決方案。Alluri解釋道：“我們?cè)?150AT SSD中引入了單根I/O虛擬化和多命名空間功能，使其可以像多個(gè)獨(dú)立的SSD一樣工作，從而支持更為復(fù)雜的區(qū)域架構(gòu)?！?/p>

這種虛擬化技術(shù)的關(guān)鍵在于，它能夠通過多個(gè)命名空間劃分不同的數(shù)據(jù)需求。例如，Alluri指出，4150AT SSD可以將一個(gè)命名空間專門用于安全應(yīng)用，確保聯(lián)網(wǎng)車輛在受到網(wǎng)絡(luò)攻擊時(shí)，關(guān)鍵的安全功能不會(huì)受到影響。這種設(shè)計(jì)尤其適合自動(dòng)駕駛車輛，因?yàn)樵谶@些車輛中，網(wǎng)絡(luò)安全至關(guān)重要，虛擬化技術(shù)確保了在面對(duì)潛在的攻擊時(shí)，車輛操作依然安全可靠。

除此之外，4150AT SSD還通過優(yōu)化功耗和耐久性，提升了其在車載存儲(chǔ)中的適應(yīng)性。Alluri表示：“在不增加功耗的情況下提升性能，是車載存儲(chǔ)面臨的關(guān)鍵挑戰(zhàn)之一。” 4150AT SSD在這一點(diǎn)上取得了顯著進(jìn)展，同時(shí)支持多命名空間的虛擬化架構(gòu)使其能夠滿足未來車輛架構(gòu)的需求。

Alluri還對(duì)與非網(wǎng)記者透露，美光正與一些全球領(lǐng)先的汽車制造商合作推進(jìn)4150AT SSD的資格認(rèn)證。由于汽車行業(yè)對(duì)產(chǎn)品認(rèn)證的要求非常嚴(yán)格，尤其是對(duì)于存儲(chǔ)解決方案的安全性和耐久性，美光在與一級(jí)汽車制造商的合作中需要經(jīng)歷長時(shí)間的測(cè)試和驗(yàn)證過程。雖然合作的細(xì)節(jié)尚未公開，但Alluri強(qiáng)調(diào)，美光的4150AT SSD憑借其獨(dú)特的虛擬化技術(shù)和高性能，已經(jīng)為未來的汽車架構(gòu)奠定了堅(jiān)實(shí)基礎(chǔ)。隨著認(rèn)證流程的推進(jìn)，未來這款產(chǎn)品有望在更多的汽車品牌和車型中得到應(yīng)用。

除了4150AT SSD，美光還在車載內(nèi)存和存儲(chǔ)領(lǐng)域推出了LPDDR5X內(nèi)存和UFS 4.0存儲(chǔ)解決方案。Alluri指出，這兩款產(chǎn)品同樣是為應(yīng)對(duì)智能網(wǎng)聯(lián)汽車和自動(dòng)駕駛系統(tǒng)而設(shè)計(jì)的。LPDDR5X內(nèi)存具備出色的能效和高性能，能夠支持自動(dòng)駕駛系統(tǒng)中對(duì)高速數(shù)據(jù)處理的需求。同時(shí)，UFS 4.0存儲(chǔ)的吞吐量比UFS 3.1提高了兩倍，能夠處理更為復(fù)雜的車載應(yīng)用，如車載娛樂系統(tǒng)和高級(jí)駕駛輔助系統(tǒng)（ADAS）中的大量數(shù)據(jù)流。

隨著車輛日益智能化，尤其是L2+及更高級(jí)別自動(dòng)駕駛技術(shù)的普及，存儲(chǔ)系統(tǒng)需要實(shí)時(shí)處理大量數(shù)據(jù)。美光的LPDDR5X和UFS 4.0解決方案不僅提供了更高的存儲(chǔ)容量和數(shù)據(jù)處理能力，還在功耗和耐久性方面進(jìn)行了優(yōu)化，使其能夠在嚴(yán)苛的汽車環(huán)境中長時(shí)間穩(wěn)定運(yùn)行。

展望美光的存儲(chǔ)技術(shù)方向？

總的來看，美光在存儲(chǔ)技術(shù)領(lǐng)域的持續(xù)創(chuàng)新鞏固了其在AI、高性能計(jì)算和數(shù)據(jù)中心等領(lǐng)域的領(lǐng)先地位。通過不斷提升存儲(chǔ)密度、優(yōu)化能效和加速速度，美光為AI數(shù)據(jù)中心和高性能計(jì)算應(yīng)用提供了更為高效的解決方案，助力企業(yè)應(yīng)對(duì)復(fù)雜的計(jì)算需求。

在存儲(chǔ)技術(shù)方面，美光在QLC（四層單元）技術(shù)和NAND層數(shù)增加上也取得了顯著進(jìn)展。QLC技術(shù)通過增加每個(gè)存儲(chǔ)單元的容量，提升了存儲(chǔ)效率，尤其適用于PC和AI工作負(fù)載等數(shù)據(jù)密集型應(yīng)用。美光在3D NAND技術(shù)方面的進(jìn)展尤為突出，推出了具有276層的3D NAND存儲(chǔ)器，這一突破性技術(shù)為市場(chǎng)帶來了前所未有的存儲(chǔ)性能。該3D NAND的傳輸速率高達(dá)3.6GB/s，閃存接口速度達(dá)到3600MT/s，領(lǐng)先于目前業(yè)界產(chǎn)品約50%。這種技術(shù)不僅顯著提升了存儲(chǔ)速度和效率，還為AI、機(jī)器學(xué)習(xí)等數(shù)據(jù)密集型應(yīng)用提供了強(qiáng)大的支持，特別是在云計(jì)算和汽車領(lǐng)域中，能夠?qū)崿F(xiàn)實(shí)時(shí)的數(shù)據(jù)處理和快速響應(yīng)。

在PCIe 6.0 SSD技術(shù)上，美光的PCIe 6.0 SSD在順序讀取速率上達(dá)到了26GB/s，相較于上一代PCIe 5.0 SSD產(chǎn)品的14GB/s提高了85.7%，這使得其在AI、高性能計(jì)算（HPC）和數(shù)據(jù)中心等需要高帶寬和低延遲的應(yīng)用場(chǎng)景中表現(xiàn)出色。美光的PCIe 6.0 SSD還支持GPU和AI加速器之間的高速數(shù)據(jù)傳輸，進(jìn)一步推動(dòng)了AI工作負(fù)載的高效處理。

未來，美光將在NAND技術(shù)的橫向擴(kuò)展方面進(jìn)行更多探索，進(jìn)一步優(yōu)化存儲(chǔ)器件的容量密度，不僅在存儲(chǔ)層數(shù)上繼續(xù)突破，還將通過多種創(chuàng)新路徑實(shí)現(xiàn)更高效的存儲(chǔ)解決方案。Alluri強(qiáng)調(diào)，美光將繼續(xù)推動(dòng)存儲(chǔ)技術(shù)與計(jì)算系統(tǒng)的協(xié)同優(yōu)化，進(jìn)一步提升整體效率，確保其在全球數(shù)字化轉(zhuǎn)型和技術(shù)創(chuàng)新中保持競(jìng)爭優(yōu)勢(shì)。