加入星計劃,您可以享受以下權(quán)益:

  • 創(chuàng)作內(nèi)容快速變現(xiàn)
  • 行業(yè)影響力擴(kuò)散
  • 作品版權(quán)保護(hù)
  • 300W+ 專業(yè)用戶
  • 1.5W+ 優(yōu)質(zhì)創(chuàng)作者
  • 5000+ 長期合作伙伴
立即加入
  • 正文
    • 根要深,葉要茂,政企AI之路的挑戰(zhàn)
    • 技術(shù)之根深入大地,一棵堅韌不拔的AI之榕
    • 生態(tài)之葉繁茂參天,百行百業(yè)的智能生長
    • 一榕參天,萬物生長
  • 推薦器件
  • 相關(guān)推薦
  • 電子產(chǎn)業(yè)圖譜
申請入駐 產(chǎn)業(yè)圖譜

以全棧智算擁抱生態(tài),為AIGC種一棵向上生長的巨榕

04/30 11:30
1498
閱讀需 14 分鐘
加入交流群
掃碼加入
獲取工程師必備禮包
參與熱點(diǎn)資訊討論

榕樹,被稱為百木之王。它既有極深的根,又有繁茂的葉。只要一棵榕樹長成,就能夠獨(dú)木成林,遮天蔽日。更可貴的是,榕樹可以為樹蔭下繁茂的生態(tài)提供支撐,形成“一榕生,萬物長”的格局。

開年以來,OpenAI推出了炸裂的Sora文生視頻模型,再一次將AIGC技術(shù)競賽的天花板拉高,科技巨頭蘋果也宣布大力投資生成式AI。

種種跡象都表明,狂飆了一年的AIGC,仍在吸引大量行業(yè)和企業(yè)的涌入,我們已經(jīng)很少見到科技與互聯(lián)網(wǎng)公司說他們不關(guān)心大模型、不想做AI。

然而,在大模型及AIGC的落地實(shí)踐中,大型政企會面臨一個困難局面:既希望確保AI技術(shù)與基礎(chǔ)設(shè)施全??煽?,具有高自主、高安全的特征,同時又希望接入開放多元的生態(tài),滿足行業(yè)專屬場景定制化、個性化需求,實(shí)現(xiàn)生態(tài)化發(fā)展。

如何幫助政企平衡二者的發(fā)展?今天的AIGC和大模型,需要一棵榕樹般根深葉茂的支撐。其中,根,就是AI技術(shù);葉,則是AI生態(tài)。

產(chǎn)業(yè)用好AIGC、激活新質(zhì)生產(chǎn)力的現(xiàn)實(shí)需求,也驅(qū)動著基礎(chǔ)設(shè)施服務(wù)商們不斷升級。

以新華三為例,就選擇將AI技術(shù)的“根”扎得很深很牢,又要讓AI產(chǎn)業(yè)生態(tài)枝繁葉茂,催生應(yīng)用落地繁榮生長。

如何更快地利用AI技術(shù)長出新質(zhì)生產(chǎn)力,是這個春天很多企業(yè)都在思考的問題。那么不妨一起來看看新華三是如何以端到端的全棧智算解決方案助萬物生長。

根要深,葉要茂,政企AI之路的挑戰(zhàn)

在討論新華三這棵AI巨榕之于產(chǎn)業(yè)的價值之前,我們有必要先了解一下,從2023年春季的爆火,AIGC狂飆一年之后,如今的政企所面對的技術(shù)與產(chǎn)業(yè)背景。

整體來看,中國大模型和AIGC產(chǎn)業(yè)已經(jīng)達(dá)到了驚人的成就,相關(guān)應(yīng)用也開始嘗試向具體的業(yè)務(wù)場景探索,展現(xiàn)出強(qiáng)勁的增長態(tài)勢。大模型、AIGC作為新質(zhì)生產(chǎn)力,目前已經(jīng)成為各行各業(yè)的共識。

然而這一年來的落地實(shí)踐,也讓我們看到了存在于國內(nèi)AI產(chǎn)業(yè)的深層隱憂:大型政企、科研院校做AI大模型,有著三大難以兼顧的發(fā)展挑戰(zhàn)。

1. 技術(shù)不易貫通。AI及大模型訓(xùn)練,是一項復(fù)雜且技術(shù)密集的任務(wù),要求異構(gòu)算力的深度整合以及高效的分布式并行計算,其中的技術(shù)挑戰(zhàn)層出不窮。比如異構(gòu)算力意味著要將不同類型的計算硬件,如GPU、FPGA甚至ASIC,進(jìn)行有效協(xié)同。然而,不同硬件之間的接口、通信協(xié)議以及優(yōu)化方法各不相同。此外,分布式并行訓(xùn)練要求在多個計算節(jié)點(diǎn)之間,實(shí)現(xiàn)數(shù)據(jù)的快速傳輸和同步。網(wǎng)絡(luò)延遲、數(shù)據(jù)不對稱以及節(jié)點(diǎn)故障等問題,都可能影響到訓(xùn)練的性能和穩(wěn)定性。可以說,想要利用多種計算資源來提供算力,必須實(shí)現(xiàn)對分布式并行計算的“一體化”貫通/協(xié)作,以滿足模型訓(xùn)練的復(fù)雜需求,這是做AI的首要難關(guān)。

2. 信息安全無法保障。AI作為新質(zhì)生產(chǎn)力,與各行各業(yè)的結(jié)合才剛剛開始,其中包括大量國計民生關(guān)鍵行業(yè)。訓(xùn)練AI模型時,往往需要使用大量的用戶數(shù)據(jù),這些數(shù)據(jù)可能包含商業(yè)機(jī)密或隱私信息,在公域環(huán)境下,如何確保這些數(shù)據(jù)不被泄露或濫用,成了一個巨大的挑戰(zhàn)。此外,AI的訓(xùn)練推理都十分依賴高性能計算硬件及相關(guān)軟件人工智能基礎(chǔ)設(shè)施的供應(yīng)鏈韌性與安全性難以保障,也是很多企業(yè)的顧慮所在。

3.生態(tài)難以發(fā)展。我們知道,大型政企或?qū)嶓w行業(yè)在落地AI時,需要的軟硬件很多,往往會考慮一攬子工程。這時,一個繁榮且富有活力的AI生態(tài),可以為政企提供多樣化的AI產(chǎn)品和服務(wù)。但生態(tài)建設(shè)需要各方以開放的態(tài)度,愿意共享資源,攜手合作創(chuàng)新,而目前部分科技巨頭更希望將生態(tài)伙伴鎖定在自身的軟硬件體系內(nèi),這讓很多不想“把雞蛋放在一個籃子”的政企,無法加速擁抱AI的腳步。

不難看出,生態(tài)的融合是部署AIGC能力落地、推進(jìn)智能化升級的關(guān)鍵。

有沒有一種可行的解決辦法,能同時實(shí)現(xiàn)三者的兼顧與平衡,幫助政企加速部署AI能力呢?今天的新華三,就提供了一種解題思路:

端到端的全棧的靈犀智算解決方案,如同一顆AI巨榕。新華三選擇將AI之根扎進(jìn)深處,打造安全堅實(shí)的AI軟硬件底座;用一體化的技術(shù)枝干,讓AI開發(fā)使用全棧貫通;將生態(tài)之葉伸向蒼穹,攜手優(yōu)選生態(tài)模型,孕育出AI應(yīng)用與服務(wù)的繁花萬千。

技術(shù)之根深入大地,一棵堅韌不拔的AI之榕

政企做AI最擔(dān)心的是什么?一開始引入AI應(yīng)用或大模型很容易,但那只是“首付”。AI技術(shù)與業(yè)務(wù)場景的結(jié)合,需要長時間的適配、迭代、升級。如果在這個過程中,出現(xiàn)了“算力買不到”“模型用不了”的風(fēng)險,會給相關(guān)業(yè)務(wù)和服務(wù)帶來持續(xù)的危機(jī)。因此,一個高可靠、高安全的AI基礎(chǔ)軟硬件生態(tài),對于政企市場來說必不可少。

堅韌不拔的AI巨榕,必須將技術(shù)牢牢扎根。目前,業(yè)界已形成共識,那就是我國的AIGC行業(yè)可以分為基礎(chǔ)設(shè)施層、模型層和應(yīng)用層三個層級結(jié)構(gòu)。但能夠?qū)⑷龑右惑w貫通的廠商仍屬少數(shù)。新華三發(fā)布的靈犀智算解決方案,就是新華三自身所打造的、面向AI時代的全棧技術(shù)體系,在這個體系里,三個層面將一體貫通,讓技術(shù)之根向下扎入底層創(chuàng)新、向上抵達(dá)應(yīng)用末梢。

首先是基礎(chǔ)設(shè)施層。

如前所說,單一的計算資源,難以滿足AIGC及大模型的訓(xùn)練需求,需要綜合利用多種計算硬件,而將不同架構(gòu)、不同類型的計算資源有效地整合并實(shí)現(xiàn)協(xié)同工作,是一個巨大而重要的問題。尤其是自2024開年 Sora文生視頻大模型驚艷亮相以來,更強(qiáng)大的AIGC模型與萬億參數(shù)規(guī)模LLM的研發(fā)進(jìn)程還將進(jìn)一步加速,中國算力瓶頸的突圍變得愈發(fā)緊迫。對此,新華三利用自身的技術(shù)積累,充分發(fā)揮“算力×聯(lián)接”的乘數(shù)效應(yīng),將新華三領(lǐng)先的算力和聯(lián)接技術(shù)進(jìn)行最佳的調(diào)優(yōu)與配合,帶來倍增的技術(shù)整合優(yōu)勢和智算效率,放大智算資源價值,發(fā)揮AIGC應(yīng)用的最大潛能。???

?“算力多元化”,聚合多種算力資源,提供CPU和GPU多元化選擇,滿足市場與客戶的多樣化需求,并加強(qiáng)供應(yīng)鏈的供給保障。

?“聯(lián)接標(biāo)準(zhǔn)化”,推動聯(lián)接標(biāo)準(zhǔn)化,通過服務(wù)器內(nèi)、外部GPU聯(lián)接標(biāo)準(zhǔn)化,實(shí)現(xiàn)異構(gòu)GPU的智算集群,降低算力部署和應(yīng)用的成本,并通過軟件生態(tài)的標(biāo)準(zhǔn)化,打通智算孤島,促進(jìn)資源共享與產(chǎn)業(yè)共同繁榮。

這一智算底座,將為“AI巨榕”下的政企用戶們,提供源源不斷的算力“養(yǎng)分”。

其次是模型層。

去年,新華三推出國內(nèi)首個面向To B、To G領(lǐng)域的私域大模型百業(yè)靈犀(LinSeer),支持在私域環(huán)境下進(jìn)行數(shù)據(jù)分析和模型訓(xùn)練,可以確保政企客戶在安全、專屬的環(huán)境下使用大模型,解決了很多國計民生行業(yè)的后顧之憂。今年,新華三在模型層上有了更顯著的提升,首先是在知識蒸餾上,以推動模型基座小型化實(shí)現(xiàn)數(shù)據(jù)高精度、高質(zhì)量和高表現(xiàn),其次是在輸出校準(zhǔn)上,以精煉模型回答提升用戶體驗,同時針對特定場景設(shè)計專用算法,增強(qiáng)AI使用的精準(zhǔn)度,最后是在模型使能上,通過模型、知識、應(yīng)用及安全等多層次的融合,解決更加復(fù)雜的問題。

然后是應(yīng)用層。

想要讓更多行業(yè)用戶能夠輕松上手,降低使用成本至關(guān)重要。因此,新華三打造了一站式靈犀應(yīng)用使能平臺(LinSeer Hub),可實(shí)現(xiàn)多元模型組合管理、AI Agent開發(fā)、模型服務(wù)等功能,能夠靈活兼容新華三百業(yè)靈犀私域大模型及其他國內(nèi)外主流模型,不斷降低AI使用門檻,助力政企客戶快捷構(gòu)建智能應(yīng)用,實(shí)現(xiàn)“模型使用自由”。

總的來說,依托新華三這棵AI之榕,政企可以一站式獲得覆蓋各層級的軟硬件支持,讓自身的AI能力快速生根發(fā)芽。

生態(tài)之葉繁茂參天,百行百業(yè)的智能生長

但如前文所說,構(gòu)建一個開放的AI生態(tài)實(shí)屬不易。對于投入了大量資源的AI廠商來說,將AI開發(fā)者、ISV服務(wù)商、客群關(guān)系都綁定在自身的生態(tài)內(nèi),可以更早地建立競爭壁壘,實(shí)現(xiàn)商業(yè)回報。但這也給AI使用者和政企客戶帶來了不便,比如無法靈活選擇更適合自己的大模型,難以得到充分及時的技術(shù)支持。

在一個開放多元的繁榮生態(tài)中,政企用戶可以收獲更多。為什么這么說?我們可以從新華三今天的回答中找到一些解題思路。

新華三提出“1+N”大模型策略(即百業(yè)靈犀私域大模型+N個優(yōu)選通用大模型和行業(yè)細(xì)分大模型),代表著將以開放兼容的態(tài)度,攜手業(yè)內(nèi)各垂直領(lǐng)域的杰出者,共同推動AIGC應(yīng)用發(fā)展。AI不是閉門造車,作為一個方興未艾的產(chǎn)業(yè),AI高度依賴于產(chǎn)業(yè)各方的深度合作,匯聚多方智慧和資源,共同攻克技術(shù)難題,推動AI技術(shù)向應(yīng)用轉(zhuǎn)化。因此,開放協(xié)作是AI創(chuàng)新的源泉。

更多選擇。新華三結(jié)合行業(yè)應(yīng)用場景,優(yōu)選N個生態(tài)大模型,百行百業(yè)客戶可以在這里找到全套彈性擴(kuò)展方案,靈活地滿足自身業(yè)務(wù)對個性化、專屬化的AI需求,而無需擔(dān)心只能使用某一廠商的模型,有著更充分的選擇空間。

更高效益。豐富多元化的產(chǎn)業(yè)生態(tài),也為政企客戶提供了更具成本優(yōu)勢、效益優(yōu)勢的產(chǎn)品和服務(wù)。比如在醫(yī)療、交通、制造等領(lǐng)域,新華三都提出了端到端的AI解決方案,助力客戶實(shí)現(xiàn)數(shù)字化轉(zhuǎn)型的智能化升級。

更多資源。政企的智能化升級是一個長期的綜合工程,其間的創(chuàng)新迭代升級,需要一系列的技術(shù)、人才、金融、政策等支持,遠(yuǎn)離產(chǎn)業(yè)集群會大大增加成本。新華三與各地政府合作,打造全國知名的AIGC產(chǎn)業(yè)發(fā)展先行區(qū)、產(chǎn)業(yè)集聚地和人才新高地——圖靈小鎮(zhèn),讓各地形成有影響力的AI產(chǎn)業(yè)集群。目前“圖靈小鎮(zhèn)”模式已在杭州、鄭州、咸陽等多地先行落地。

都說“背靠大樹好乘涼”,總體來看,依托新華三所打造的開放、多元的繁榮生態(tài)體系,政企的智能化升級之路,也會走得更穩(wěn)、更輕松、更可持續(xù)。

一榕參天,萬物生長

以大模型為首的人工智能技術(shù)是新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動力量,為各行各業(yè)注入源源不斷的新質(zhì)生產(chǎn)力,是很多企業(yè)不想錯過、不敢錯過的技術(shù)大潮。

面向大型政企私域部署的需求,新華三已經(jīng)培育出了一棵天時地利的參天巨榕。從核心底層技術(shù)支撐、安全可靠AI大模型部署方案,到開放的生態(tài)選擇、合作機(jī)制間的貫通,實(shí)現(xiàn)了技術(shù)可信、安全可靠、生態(tài)可依的兼顧與平衡。

在AIGC時代快節(jié)奏、高效率的進(jìn)程中,以新華三為代表的ICT廠商,將為百行百業(yè)提供新質(zhì)生產(chǎn)力的動能。

“一榕參天,萬物生長”,堅韌而生機(jī)勃勃的AI巨榕,正向我們袒露出一片智能時代的盎然春意。

推薦器件

更多器件
器件型號 數(shù)量 器件廠商 器件描述 數(shù)據(jù)手冊 ECAD模型 風(fēng)險等級 參考價格 更多信息
STM32F401VET6 1 STMicroelectronics High-performance access line, Arm Cortex-M4 core with DSP and FPU, 512 Kbytes of Flash memory, 84 MHz CPU, ART Accelerator

ECAD模型

下載ECAD模型
$10.53 查看
STM32F407VGT6 1 STMicroelectronics High-performance foundation line, Arm Cortex-M4 core with DSP and FPU, 1 Mbyte of Flash memory, 168 MHz CPU, ART Accelerator, Ethernet, FSMC

ECAD模型

下載ECAD模型
$20.39 查看
ATMEGA328P-MU 1 Microchip Technology Inc IC MCU 8BIT 32KB FLASH 32VQFN

ECAD模型

下載ECAD模型
$2.5 查看
新華三

新華三

新華三集團(tuán)作為數(shù)字化解決方案領(lǐng)導(dǎo)者,致力于成為客戶業(yè)務(wù)創(chuàng)新、數(shù)字化轉(zhuǎn)型值得信賴的合作伙伴。作為紫光集團(tuán)旗下的核心企業(yè),新華三擁有計算、存儲、網(wǎng)絡(luò)、5G、安全、終端等全方位的數(shù)字化基礎(chǔ)設(shè)施整體能力,提供云計算、大數(shù)據(jù)、人工智能、工業(yè)互聯(lián)網(wǎng)、信息安全、智能聯(lián)接、邊緣計算等在內(nèi)的一站式數(shù)字化解決方案,以及端到端的技術(shù)服務(wù)。同時,新華三也是HPE?服務(wù)器、存儲和技術(shù)服務(wù)的中國獨(dú)家提供商。

新華三集團(tuán)作為數(shù)字化解決方案領(lǐng)導(dǎo)者,致力于成為客戶業(yè)務(wù)創(chuàng)新、數(shù)字化轉(zhuǎn)型值得信賴的合作伙伴。作為紫光集團(tuán)旗下的核心企業(yè),新華三擁有計算、存儲、網(wǎng)絡(luò)、5G、安全、終端等全方位的數(shù)字化基礎(chǔ)設(shè)施整體能力,提供云計算、大數(shù)據(jù)、人工智能、工業(yè)互聯(lián)網(wǎng)、信息安全、智能聯(lián)接、邊緣計算等在內(nèi)的一站式數(shù)字化解決方案,以及端到端的技術(shù)服務(wù)。同時,新華三也是HPE?服務(wù)器、存儲和技術(shù)服務(wù)的中國獨(dú)家提供商。收起

查看更多

相關(guān)推薦

電子產(chǎn)業(yè)圖譜