捍衛(wèi)數(shù)據(jù)中心CPU王座，英特爾下一代創(chuàng)新架構(gòu)揭秘

AI正在顛覆傳統(tǒng)算力市場。面向高性能、低能耗、多樣負(fù)載的數(shù)據(jù)中心新需求，如何打造一個(gè)高度通用的平臺(tái)，同時(shí)最大限度提高計(jì)算性能、降低功耗，成為英特爾鞏固數(shù)據(jù)中心CPU王者地位的關(guān)鍵。

一年一度的芯片頂會(huì)Hot Chips期間，英特爾揭秘了下一代數(shù)據(jù)中心CPU，可以看到，英特爾至強(qiáng)可擴(kuò)展至強(qiáng)處理器正通過逐代升級(jí)，堅(jiān)守AI時(shí)代的最佳CPU寶座。從英特爾官方釋出的信息來看，下一代至強(qiáng)引入了新的體系結(jié)構(gòu)，在內(nèi)存和I/O方面都進(jìn)行了設(shè)計(jì)改進(jìn)。

如何應(yīng)對(duì)數(shù)據(jù)中心用戶新需求？

AI時(shí)代的數(shù)據(jù)中心用戶需求主要體現(xiàn)在以下四方面：對(duì)高性能單核CPU的需求持續(xù)增加；對(duì)提供更高密度和每瓦性能的CPU核需求不斷增長；新的工作負(fù)載，要求CPU核在性能、效率和密度之間進(jìn)行權(quán)衡；擴(kuò)展的模型部署需求，帶來功耗、I/O、帶寬和內(nèi)存的增長。

這給數(shù)據(jù)中心CPU帶來哪些挑戰(zhàn)？最突出的問題就是，數(shù)據(jù)中心工作負(fù)載用例類型被極大地拓展了，既有計(jì)算密集型&AI工作負(fù)載，也有高密度和橫向擴(kuò)展的工作負(fù)載，以及一般用途的工作負(fù)載。針對(duì)這些需求，英特爾在通用的平臺(tái)基礎(chǔ)和共享的軟件堆?；A(chǔ)之上，通過性能核（P-core）針對(duì)計(jì)算密集型和AI工作負(fù)載的性能進(jìn)行了優(yōu)化，能效核（E-core）針對(duì)高密度和橫向擴(kuò)展工作負(fù)載的能效進(jìn)行了優(yōu)化。也就是說，將于2024年推出的下一代服務(wù)器平臺(tái)引入了全新的E-core，與已有P-core架構(gòu)并存，共同為關(guān)鍵工作負(fù)載提供更好的性能和能效。

可擴(kuò)展性、靈活性是下一代CPU關(guān)鍵

在新的架構(gòu)體系下，“靈活性”被貫徹得很徹底，chiplet技術(shù)和EmiB封裝在其中發(fā)揮了重大作用。從下面框圖可以看出，多個(gè)獨(dú)立的計(jì)算chiplet和I/O chiplet，通過EmiB封裝（英特爾的2.5D先進(jìn)封裝技術(shù)）在單一芯片中進(jìn)行了集成，這種方式使得芯片結(jié)構(gòu)更為靈活，實(shí)現(xiàn)了通用IP、固件、操作系統(tǒng)、平臺(tái)的有機(jī)整體，也再一次顯現(xiàn)了英特爾在計(jì)算架構(gòu)和封裝技術(shù)上的累積效應(yīng)。

未來的至強(qiáng)處理器（代號(hào)為Granite Rapids）引入了一種新的體系結(jié)構(gòu)，包括在內(nèi)存子系統(tǒng)、I/O等方面的創(chuàng)新。與之前的產(chǎn)品相比，該體系結(jié)構(gòu)的邏輯單片計(jì)算集群提供了更好的每瓦性能和每線程性能，提供了必要的可擴(kuò)展性、能效、性能和多功能性。

Granite Rapids專為多核性能敏感型工作負(fù)載和通用計(jì)算工作負(fù)載提供更好的TCO而優(yōu)化。并且在AI性能方面，Granite Rapids通過內(nèi)置的加速器能夠?yàn)槟繕?biāo)工作負(fù)載提供顯著的性能和效率提升。具體表現(xiàn)如下：

混合AI工作負(fù)載性能提高2-3倍（基于截至2023年8月21日的架構(gòu)預(yù)測，與第四代英特爾至強(qiáng)可擴(kuò)展處理器相比）；
增強(qiáng)的英特爾AMX支持新的FP16指令；
針對(duì)計(jì)算密集型工作負(fù)載提供更高的內(nèi)存帶寬、核心數(shù)和緩存；
插槽可擴(kuò)展性，支持從一個(gè)插槽擴(kuò)展至八個(gè)插槽。

代號(hào)為Sierra Forest的E-core至強(qiáng)處理器，是英特爾的首款E-core處理器，也將是首款采用Intel 3制程工藝的CPU。它在新的架構(gòu)下，能夠提供密度優(yōu)化的計(jì)算性能達(dá)到節(jié)能目的，這對(duì)云原生和超大規(guī)模工作負(fù)載尤為關(guān)鍵。具體表現(xiàn)如下：

機(jī)架密度提升2.5倍，每瓦特性能提高2.4倍；
支持1路和2路服務(wù)器，每個(gè)CPU最多可達(dá)144核，TDP低至200瓦；
領(lǐng)先的指令集，具備強(qiáng)大的安全性、虛擬化和AI擴(kuò)展的AVX；
每個(gè)至強(qiáng)可擴(kuò)展處理器均標(biāo)配的基本內(nèi)存RAS功能，如機(jī)器檢查、數(shù)據(jù)緩存ECC。

據(jù)介紹，Sierra Forest計(jì)劃于2024年上半年交付，Granite Rapids也將緊隨其后。

此外，根據(jù)官方消息，代號(hào)為Emerald Rapids的第五代英特爾至強(qiáng)可擴(kuò)展處理器已向客戶提供樣品，并計(jì)劃于2023年第四季度發(fā)布。從披露的信息來看，這一系統(tǒng)級(jí)芯片具備增強(qiáng)的可擴(kuò)展性和靈活性。其創(chuàng)新架構(gòu)提供兩種不同的插槽兼容處理器，使客戶能夠便捷處理大多數(shù)工作負(fù)載，且可互換使用，從而實(shí)現(xiàn)更高性價(jià)比。主要的技術(shù)特點(diǎn)包括：

性能核和能效核基于共享IP、固件和操作系統(tǒng)軟件堆棧；
高速DDR和全新高帶寬MCR DIMMs；
全新英特爾Flat Memory技術(shù)支持在DDR5和CXL內(nèi)存之間進(jìn)行硬件管理的數(shù)據(jù)傳輸，使總內(nèi)存容量對(duì)軟件可見；
CXL 2.0支持所有設(shè)備類型，并兼容CXL 1.1；
領(lǐng)先的I/O，最多可達(dá)136條PCIe 5.0/CXL 2.0通道和最多六個(gè)UPI鏈路。

未來CPU需要多維創(chuàng)新

作為英特爾的王牌產(chǎn)品，英特爾至強(qiáng)可擴(kuò)展處理器實(shí)現(xiàn)了一個(gè)又一個(gè)里程碑。據(jù)英特爾公司副總裁兼至強(qiáng)產(chǎn)品和解決方案事業(yè)部總經(jīng)理Lisa Spelman介紹，英特爾近期出貨了第一百萬片第四代英特爾至強(qiáng)可擴(kuò)展處理器，數(shù)據(jù)中心產(chǎn)品路線圖和產(chǎn)品也都在按計(jì)劃如期推進(jìn)。

在今年3月的一場投資者會(huì)議上，英特爾執(zhí)行副總裁兼數(shù)據(jù)中心與人工智能事業(yè)部總經(jīng)理Sandra Rivera表示，五年后，數(shù)據(jù)中心芯片市場的規(guī)模將達(dá)到1100億美元，是去年英特爾投資者大會(huì)上所預(yù)期市場規(guī)模的兩倍左右。

究其原因，實(shí)際上是不斷變化的數(shù)據(jù)中心市場格局?jǐn)U大了針對(duì)CPU的需求，或者說，數(shù)據(jù)中心對(duì)計(jì)算的需求正在刷新。以往，業(yè)界常常通過CPU的出貨量來衡量市場規(guī)模。而現(xiàn)在，插槽數(shù)量并不能完全反映芯片創(chuàng)新為市場帶來的價(jià)值。如今，創(chuàng)新涉及多個(gè)維度，包括提高CPU內(nèi)核的密度、使用芯片中的內(nèi)置加速器，以及使用獨(dú)立加速器等，這些都一一在英特爾的至強(qiáng)處理器中得到了體現(xiàn)，也成為未來創(chuàng)新的關(guān)鍵驅(qū)動(dòng)力。