加入星計劃,您可以享受以下權(quán)益:

  • 創(chuàng)作內(nèi)容快速變現(xiàn)
  • 行業(yè)影響力擴散
  • 作品版權(quán)保護
  • 300W+ 專業(yè)用戶
  • 1.5W+ 優(yōu)質(zhì)創(chuàng)作者
  • 5000+ 長期合作伙伴
立即加入
  • 正文
  • 推薦器件
  • 相關(guān)推薦
  • 電子產(chǎn)業(yè)圖譜
申請入駐 產(chǎn)業(yè)圖譜

如何沖破大模型時代的算力關(guān)卡?天翼云給出答案

07/18 12:10
731
閱讀需 11 分鐘
加入交流群
掃碼加入
獲取工程師必備禮包
參與熱點資訊討論

IDC最新發(fā)布的《中國智算服務(wù)市場(2023 下半年)跟蹤》報告顯示,2023 下半年中國智算服務(wù)市場整體規(guī)模達到 114.1 億元人民幣,同比增長 85.8%;方正證券發(fā)布的《2023年AI算力行業(yè)報告》顯示,目前智能算力滲透率達到22.78%,而未來“天花板”有望超80%??梢钥闯?,智算市場正處于加速增量階段,面向人工智能時代的智算需求也將迎來爆發(fā)增長。

而無論是當(dāng)下炙手可熱的大模型技術(shù),還是面向行業(yè)場景化的創(chuàng)新AI研發(fā),都建立在一種資源的充分利用上,那就是算力。在復(fù)雜多樣的需求之下,不僅要求算力資源更加充沛和靈活,還要求算力基礎(chǔ)設(shè)施向智能和一體化的方向發(fā)展,以更高效率和性能來支持更大規(guī)模計算,助力我國智能產(chǎn)業(yè)加速“翱翔”。

那么,誰來承擔(dān)這一使命呢?

勇?lián)萍甲粤⒆詮姷氖姑?,正是天翼云的特點。

在不久前的2024世界人工智能大會上,天翼云科技有限公司董事長、總經(jīng)理胡志強表示,天翼云作為國家云,已具備豐富的智算資源儲備、強大的智算平臺能力和開放的模型應(yīng)用生態(tài)。面向人工智能新一輪科技革命浪潮,天翼云堅持以科技創(chuàng)新驅(qū)動高質(zhì)量發(fā)展,為數(shù)字經(jīng)濟發(fā)展注入新動能。

擁抱人工智能技術(shù)趨勢、發(fā)揮云化算力底座作用,天翼云不僅自建了豐富的智算資源,同時匯聚了大量的社會智算資源,為千行百業(yè)向智發(fā)展,打造了堅實的云化算力底座。

近年來,我國在多個戰(zhàn)略規(guī)劃中提到了算力建設(shè)的重要性,比如國務(wù)院印發(fā)的《數(shù)字中國建設(shè)整體布局規(guī)劃》提出,要系統(tǒng)優(yōu)化算力基礎(chǔ)設(shè)施布局,促進東西部算力高效互補和協(xié)同聯(lián)動,引導(dǎo)通用數(shù)據(jù)中心、超算中心、智能計算中心、邊緣數(shù)據(jù)中心等合理梯次布局。隨著當(dāng)下AI和大模型的行業(yè)滲透率不斷提高,對于多層次智算資源需求愈發(fā)凸顯。

要保障算力充沛供給與高效利用,我們還需要攻破這些關(guān)卡:

第一關(guān)是“智算資源的供給緊張”。針對大模型和AI任務(wù)的專項算力,供給持續(xù)緊缺,海外高端算力芯片供不應(yīng)求,供應(yīng)鏈風(fēng)險也越來越大。面對海外算力封鎖的嚴(yán)峻形勢,我們必須構(gòu)建自主可控的算力資源體系,確保算力的安全性和穩(wěn)定性,為各行各業(yè)提供堅實可靠的算力支撐。

第二關(guān)是“已有算力的利用率不高、區(qū)域算力差異大”。?在數(shù)字經(jīng)濟時代,算力水平制約產(chǎn)業(yè)和經(jīng)濟發(fā)展,很多地區(qū)、企業(yè)都開始建設(shè)數(shù)據(jù)中心,算力總規(guī)模持續(xù)增長,但不同地區(qū)、不同行業(yè)之間的算力資源分配也存在不均衡現(xiàn)象,已有算力資源的配置效率有待提升。

目前來看,通過云化的方式對算力資源進行集中化和高效調(diào)度、促進算力資源的跨地區(qū)跨行業(yè)共享,是提高算力利用率的可行方案,讓算力可以如同水、電等公共基礎(chǔ)設(shè)施一樣,被用戶便捷、低成本地獲取。

面向云智融合的時代趨勢,作為云服務(wù)國家隊的天翼云勇?lián)鷷r代重任,通過科技創(chuàng)新進行攻關(guān)、進行多層次的算力布局,實現(xiàn)了豐富的智算資源供給,為客戶提供強大的算力支持。

兵馬未動,糧草先行。于AI產(chǎn)業(yè)而言,智算資源便是“糧草”。

面向智算,天翼云自建了大規(guī)模、多樣化的算力資源,可以滿足各個區(qū)域、各種行業(yè)場景的不同需求。目前,天翼云在全國范圍內(nèi)構(gòu)建了“2+4+31+X”的資源池,織就全國算力“一張網(wǎng)”,構(gòu)建了“中心-?。吘墸恕钡乃募壦懔Σ季煮w系。通過針對性優(yōu)化,解決了AI在云上的大量工程化挑戰(zhàn)。

首先,針對性解決大模型訓(xùn)練推理需要大規(guī)模算力問題。天翼云超前構(gòu)建智能算力布局,針對 AI 產(chǎn)業(yè)集聚區(qū),規(guī)劃建設(shè)了北京、上海、廣東、浙江、安徽人工智能公共算力中心,并先后在上海、北京建成萬卡池,這也是全國最早建成并真正投產(chǎn)運行的兩個國產(chǎn)化、全液冷、單集群萬卡公共智算中心。

其次,針對能耗問題打造綠色高效算力。計算也是耗能大頭,提高能效、節(jié)能減碳勢在必行。天翼云通過領(lǐng)先技術(shù)降低能耗,如在公共智算中心采用液冷技術(shù),實現(xiàn)能效和算效“雙效合一”。此外還在內(nèi)蒙、貴州、寧夏等清潔能源集聚地建設(shè)智算中心,提供綠色低碳的算力。

再次,為了提高算力響應(yīng)速度和計算效率,天翼云已在31省預(yù)部署AI云電腦和推理池,在280多個地市的一城一池節(jié)點和1000多個邊緣節(jié)點,按需下沉AI云電腦算力和推理算力。

最后聚焦技術(shù)自主可控,天翼云支持“一云多態(tài)”,提供國內(nèi)外主流的GPU、NPU算力方案,面向不同場景為用戶提供公有云、私有云、邊緣云多種形態(tài)服務(wù)。

可用、可信、可持續(xù)的算力才能讓中國AI持續(xù)前行,天翼云通過“建內(nèi)功”,已儲備了分布廣泛、安全可靠、技術(shù)先進、綠色節(jié)能的大規(guī)模智算“糧倉”,并以云服務(wù)的形式,實現(xiàn)靈活便捷、低成本地獲取,為各行各業(yè)智能演進提供充沛普惠的算力保障。

于智算資源而言,患寡亦患不均,有了算力糧儲,進而要考慮高效調(diào)度分配。

為了保障我國算力資源高效運營,目前全國正加快形成一體化算力網(wǎng)絡(luò)。但多地多方的算力聯(lián)網(wǎng),讓算力互聯(lián)、跨域調(diào)度管理等工作在實際運行中面臨一系列挑戰(zhàn),亟需一張“算力網(wǎng)”平衡區(qū)域資源、實現(xiàn)供需匹配。

為此,天翼云重點研發(fā)算力分發(fā)網(wǎng)絡(luò)平臺“息壤”,從算力統(tǒng)一接入、算數(shù)網(wǎng)一體化調(diào)度、算力簡便易用三方面進行技術(shù)突破:

在算力統(tǒng)一接入方面,“息壤”平臺預(yù)置了算力插件,可高效接入平臺化算力,此外還通過算力網(wǎng)關(guān),將裸算力云化接入。

在算數(shù)網(wǎng)一體化調(diào)度方面,通過算數(shù)協(xié)同,實現(xiàn)數(shù)隨算走、算隨數(shù)動,讓調(diào)度策略更全面,調(diào)度方案更精準(zhǔn),同時構(gòu)建了多級算力互聯(lián)調(diào)度,讓調(diào)度區(qū)域更廣、算力更泛在。

在提升算力簡便易用性上,“息壤”借助了大模型認(rèn)知能力,為行業(yè)與客戶智能匹配合適的算力選擇,讓應(yīng)用部署更簡單。通過業(yè)務(wù)調(diào)度,還能實現(xiàn)跨地域跨服務(wù)商的故障自動恢復(fù)和負(fù)載均衡,提升應(yīng)用可靠性。

天翼云通過“息壤”平臺,大規(guī)模匯聚社會各方算力,解決了跨域、跨服務(wù)商異構(gòu)算力的統(tǒng)一調(diào)度管理、并網(wǎng)交易等需求,實現(xiàn)促進算力互聯(lián)互通、高效利用、供需匹配,也促進全國一體化算力體系加速形成。目前,“息壤”主要服務(wù)于三大算力場景:

一是自營的公共算力服務(wù)平臺。目前已接入多家算力伙伴,顯著擴大了天翼云的算力規(guī)模和品類,滿足公有云客戶的多元算力需求。

二是行業(yè)算力互聯(lián)網(wǎng)。比如福建多所大學(xué)組成的高校算力聯(lián)盟,通過多方資源共享、優(yōu)勢互補,提升算力利用水平。

三是城市算力互聯(lián)網(wǎng)。通過整合區(qū)域內(nèi)多方算力,結(jié)合產(chǎn)業(yè)政策,一體化統(tǒng)籌調(diào)度算力,目前已在多個區(qū)域成功實踐。

通過技術(shù)創(chuàng)新與合作,天翼云以“息壤”為算力資源底座逐步推動構(gòu)建起一張全國“算力網(wǎng)”,以多樣且靈活的算力調(diào)度能力,打破算力分布不均衡、已有算力資源利用率低的瓶頸。

AI的滲透率將持續(xù)增長,重塑社會經(jīng)濟的每一個角落。隨著AI應(yīng)用場景的不斷拓展,算力需求也將呈現(xiàn)出多樣化的特點,算力基礎(chǔ)設(shè)施由通算向通智超一體化發(fā)展,算力建設(shè)也向更豐富、更多層次的智算發(fā)展。

無論需求如何變遷,天翼云始終勇立時代潮頭創(chuàng)新技術(shù)、演進實力。我們可以看到“國云”的獨特氣質(zhì):

縱向有高度。無論是全棧自研的萬卡集群解決方案,還是跨域調(diào)度的“息壤”平臺,天翼云以極高的技術(shù)實力,創(chuàng)新性地解決智算供給難題。

橫向有廣度。作為“國家隊”,天翼云致力于推動算力的普惠化,息壤平臺加快形成全國一體化算力體系,讓充沛、可靠、持續(xù)的算力成為千行百業(yè)用得到、用得起的資源。

站在AI黃金期的起點上,跨越算力瓶頸,天翼云給出的答案,是將自建算力和社會算力匯聚起來,AI將像水、電、網(wǎng)絡(luò)一樣無處不在,把普惠算力送往更加廣闊的天地,送到社會的每一個角落,為數(shù)字經(jīng)濟發(fā)展注入磅礴動能。

既已越過了向智能云發(fā)展的拐點,便是開啟新一輪智算征程。作為AI加速滲透的強大后盾,天翼云在智能時代的壯麗征程才剛剛拉開序幕。

推薦器件

更多器件
器件型號 數(shù)量 器件廠商 器件描述 數(shù)據(jù)手冊 ECAD模型 風(fēng)險等級 參考價格 更多信息
KSZ8895RQI 1 Micrel Inc Ethernet Transceiver, CMOS, PQFP128, LEAD FREE, PLASTIC, QFP-128
暫無數(shù)據(jù) 查看
ADM3053BRWZ-REEL7 1 Analog Devices Inc Signal and Power Isolated CAN Transceiver with Integrated Isolated DC-to-DC Converter

ECAD模型

下載ECAD模型
$12.3 查看
KSZ9031RNXVA-TR 1 Microchip Technology Inc Ethernet Transceiver
暫無數(shù)據(jù) 查看

相關(guān)推薦

電子產(chǎn)業(yè)圖譜