加入星計劃,您可以享受以下權(quán)益:

  • 創(chuàng)作內(nèi)容快速變現(xiàn)
  • 行業(yè)影響力擴散
  • 作品版權(quán)保護
  • 300W+ 專業(yè)用戶
  • 1.5W+ 優(yōu)質(zhì)創(chuàng)作者
  • 5000+ 長期合作伙伴
立即加入
  • 正文
  • 相關推薦
  • 電子產(chǎn)業(yè)圖譜
申請入駐 產(chǎn)業(yè)圖譜

打破高性能計算性能墻、內(nèi)存墻、互聯(lián)墻的一種解題思路

09/30 17:08
1277
閱讀需 8 分鐘
加入交流群
掃碼加入
獲取工程師必備禮包
參與熱點資訊討論

市場調(diào)研機構(gòu)Hyperion Research最新ISC24市場報告顯示,2023年全球HPC市場規(guī)模為372億美元,與2022年基本持平。未來5年,HPC服務器市場的年平均增長率預計為8.2%,存儲市場的年平均增長率預計為9.3%,GPU市場的年平均增長率預計為17%,云計算市場的年平均增長率預計為21%。整體HPC市場呈現(xiàn)穩(wěn)健增長態(tài)勢。

HPC訓練/推理服務器的主流系統(tǒng)架構(gòu),主體算力CPU芯片AI芯片這兩顆芯片提供,但是一個完整的服務器,要能夠提供完整的算力,還需要非常多的互聯(lián)技術(shù),把芯片連接在一起。這里的互聯(lián)技術(shù)包含:AI芯片為了提升算力密度,會采用UCIe把兩個Die結(jié)合在一起,盡量突破算力瓶頸;內(nèi)存方面,CPU要經(jīng)過內(nèi)存接口,用DDR5做連接,AI芯片需要和HBM3/LPDDR5x做充分內(nèi)存,以提供足夠算力;針對大模型進行運算或進行訓練和推理,AI芯片與AI芯片之間,算力卡與算力卡之間,也需要高速接口互聯(lián),采用PCIe或Serdes,將所有算力芯片連接起來。

可見未來HPC的技術(shù)體系除了算力本身,互聯(lián)是非常核心的。

通過英偉達過往六七年的產(chǎn)品發(fā)展可以看到算力是如何提升的、瓶頸在哪,到2024年的B200,算力提升10-20倍,甚至到百倍的提升,從工藝發(fā)展來看,為了提升性能,先進工藝采用是非常簡單直接的邏輯,從P100到B200的工藝演進是從16nm一直演進到4nm,但是我們看到工藝演進逐漸接近極限,速度也在放緩。從AI芯片來看,到現(xiàn)在已經(jīng)接近光罩極限。這個時候Die to Die、RISC-V技術(shù)開始導入并發(fā)揮作用,直接的體現(xiàn)在英偉達的B200上,這可芯片首次采用互聯(lián)技術(shù),可以把算力的密度持續(xù)往上提升;

從內(nèi)存的趨勢角度,由于帶寬逐步進化,從P100到B200,內(nèi)存提升超過10倍以上。從演進來看,算力提升不僅僅體現(xiàn)在算力單元、算力密度上,還有內(nèi)存存取,現(xiàn)在的運算模型越來越龐大,存取需要大量帶寬做參數(shù)存儲跟計算,內(nèi)存逐步演變成非常大的算力瓶頸;

同樣的,互聯(lián)也一樣,當前單一計算芯片無法提供足夠的算力來支撐如此大的模型運算,需要靠系統(tǒng)型算力,也就需要靠PCIe,將所有算力互聯(lián)在一起,在過去的七、八年中,總速度、總帶寬才得以實現(xiàn)10倍以上的提升。

接下來還能怎樣解決算力瓶頸?從上面提到的性能墻、內(nèi)存墻和互聯(lián)墻三個維度來考慮,高速接口IP成為一種可能的解題思路,這也是近年來很多IP企業(yè)紛紛加大對接口IP的投入的驅(qū)動力。

IPNest最新的數(shù)據(jù)統(tǒng)計顯示,2023年,半導體市場整體下滑,但接口IP領域增長了17%。預測數(shù)據(jù)顯示,2024年至2028年接口IP的增長更為強勁,與2020年代的20%增長相當。接口IP類別占所有IP類別的份額已從2017年的18%上升至2023年的28%。這一趨勢將在未來10年內(nèi)進一步擴大,份額將增長到總量的38%。預計大部分增長來自三個類別:PCIe、內(nèi)存控制器(DDR)以及以太網(wǎng)與D2D,未來5年復合年增長率分別為19%、23%和22%。

我們也看到多家本土IP企業(yè)希望把握這一機會點大力發(fā)展高速接口IP,但不可否認,HPC高性能計算本身對產(chǎn)品性能、功能以及先進工藝節(jié)點的要求都非常之高,以本土IP企業(yè)的人才和技術(shù)積累想在這一領域有所突破甚至是超越,難度可想而知。

芯耀輝董事長曾克強

“我們HPC類和AI類的客戶群成長很快?!苯?,在無錫舉辦的2024中國集成電路設計創(chuàng)新大會暨第四屆IC應用展(ICDIA2024)期間,本土IP初創(chuàng)企業(yè)芯耀輝董事長曾克強介紹?!搬槍a(chǎn)最先進的工藝節(jié)點,我們的產(chǎn)品也可以做到明確的領先。同時也在導入國外的主流工藝,這一領域的友商很多,芯耀輝產(chǎn)品線相對會比較全,我們的產(chǎn)品包括DDR5可以做到和國際頭部企業(yè)同等速率,UCIe相關產(chǎn)品也可以做到24G速率,處于領先?!?/p>

從2020年6月創(chuàng)立,到2024年,芯耀輝已經(jīng)形成了較完整的高速接口IP產(chǎn)品線?!搬槍π阅軌Γ疽x提供完整的UCIe、XSR,承接D2D的互聯(lián),有標準的控制器;針對內(nèi)存墻,除了HBM、DDR、LPDDR,還提供Memory Compiler,Memory Compiler是內(nèi)存帶寬最高、性能最高的內(nèi)存存儲媒介,在運算過程中,大算力芯片需要超高速帶寬內(nèi)存,來突破算力瓶頸;針對互聯(lián)墻,經(jīng)過大量驗證,有非常多客戶采用芯耀輝的PCIe5/32G Serdes PHY IP,我們的解決方案,面向面積和帶寬,在控制部分進行了大量優(yōu)化,面積節(jié)省40%左右,同時也提供下一代的完整PCIe6和112G Serdes解決方案?!痹藦娞岬?。

作為IP提供商,最后往往需要為客戶提供更完整的產(chǎn)品組合和解決方案,對此,曾克強表示,“如果要做一個完善的一站式IP廠商,也需要控制器IP,這樣給客戶提供一整套的解決方案,這樣HBM的IP和數(shù)字控制器IP都是芯耀輝的,在互相協(xié)同兼容性、可靠性上都會做的更好,這也是行業(yè)規(guī)律。我們做的主要是基于和工藝相關的,以高速接口為核心,上下擴展。包括數(shù)字各類接口IP以及數(shù)字控制器IP,還有工藝制造端的其他IP,都在我們的考慮當中,但基本上核心是圍繞著工藝墻相關的產(chǎn)品來展開?!?/p>

“綜上所述,我們希望通過完整的產(chǎn)品組合,并提供完整的設計、全方位生態(tài)、Foundry等完整供應鏈,可以給客戶帶來非常完整的解決方案,希望助力客戶在芯片設計和產(chǎn)品開發(fā)上持續(xù)迭代。”曾克強補充。

相關推薦

電子產(chǎn)業(yè)圖譜

與非網(wǎng)總編。所知有限,不斷發(fā)現(xiàn)。抱持對技術(shù)、產(chǎn)業(yè)的熱情和好奇,以我所知、所見,真實還原電子產(chǎn)業(yè)現(xiàn)狀和前沿趨勢。

微信公眾號