416
作者：Arm 戰(zhàn)略與生態(tài)部開發(fā)者平臺副總裁 Geraint North
人工智能 (AI) 是當(dāng)今最重大的技術(shù)變革之一，并正以前所未有的速度推動著各行各業(yè)的發(fā)展。作為應(yīng)用最為普及的計(jì)算架構(gòu)，Arm 為廣泛的應(yīng)用市場提供全面且多樣化的計(jì)算平臺，并在此基礎(chǔ)上，攜手合作伙伴，共同構(gòu)筑起堅(jiān)實(shí)的軟硬件生態(tài)系統(tǒng)，使 Arm 成為最高效、最易訪問的計(jì)算平臺，持續(xù)賦能開發(fā)者進(jìn)行 AI 創(chuàng)新。隨著計(jì)算變得愈發(fā)復(fù)雜，計(jì)算效率的重要性更勝以往。高性能和出色能效一直是 Arm 的 DNA，這一優(yōu)勢使得 Arm 技術(shù)能夠很好地滿足企業(yè)在 AI 時(shí)代的業(yè)務(wù)需求。
軟件成為差異化的關(guān)鍵
要使硬件發(fā)揮其作用，離不開軟件的支持，軟硬件的協(xié)同發(fā)展方能充分釋放 AI 的性能價(jià)值。以 Arm 為計(jì)算基礎(chǔ)構(gòu)建的軟件平臺是世界上最為普適且重要的軟件平臺。Arm 在開發(fā)計(jì)算平臺的同時(shí)，也大量投入軟件開發(fā)，我們的工程師團(tuán)隊(duì)致力于確保合作伙伴所構(gòu)建的產(chǎn)品在部署的第一天就能帶來巨大的價(jià)值。如今，我們的技術(shù)已經(jīng)涵蓋整個(gè)軟件棧的各個(gè)層面。從底層固件和操作系統(tǒng)的開發(fā)，到與游戲引擎、開源社區(qū)和獨(dú)立軟件供應(yīng)商 (ISV) 的戰(zhàn)略合作，我們確保所有這些在 Arm 平臺上都能“開機(jī)即用”。
在基礎(chǔ)設(shè)施領(lǐng)域，Arm 具備成熟且健全的云軟件生態(tài)系統(tǒng)。隨著超大規(guī)模云服務(wù)提供商認(rèn)識到軟件生態(tài)系統(tǒng)的進(jìn)展，開始將基于 Arm 架構(gòu)的計(jì)算平臺作為一種高性能且具有成本效益的解決方案提供給第三方開發(fā)者，用于通用工作負(fù)載。云原生軟件開發(fā)者正越來越多地采用基于 Arm Neoverse 平臺的云基礎(chǔ)設(shè)施來構(gòu)建和運(yùn)行他們的應(yīng)用，以提高性能、效率和可持續(xù)性，并節(jié)省成本。所有主要云服務(wù)提供商也均提供基于 Neoverse 的云實(shí)例。在基于 Arm 平臺部署的各種云工作負(fù)載中，客戶可實(shí)現(xiàn)更高的性能和成本效益。
除了對云工作負(fù)載的出色支持外，Arm 還投入了大量精力與汽車行業(yè)進(jìn)行合作。隨著軟件成為車載差異化的關(guān)鍵因素，汽車行業(yè)面臨著許多挑戰(zhàn)。汽車軟件不僅需要被快速交付，且一旦被部署在汽車上，通常需要在十年或更長時(shí)間內(nèi)持續(xù)修復(fù)漏洞并增添新的功能。而這些對于云軟件開發(fā)者來說已了然于心，因?yàn)榇笠?guī)模原型設(shè)計(jì)、測試、部署和更新軟件正是現(xiàn)代云軟件開發(fā)的關(guān)鍵所在。從云端到車載，Arm 平臺無處不在?；?Arm 架構(gòu)的云技術(shù)已成為汽車開發(fā)的重要部分，使合作伙伴能夠在云環(huán)境中構(gòu)建和測試眾多的汽車軟件組件。與此同時(shí)，為了進(jìn)一步確保汽車軟件在包括云端在內(nèi)的多個(gè)平臺上具有可移植性，整個(gè)生態(tài)系統(tǒng)的通力協(xié)作至關(guān)重要，這也是 Arm 在 2021 年?duì)款^成立 SOAFEE（面向嵌入式邊緣的可擴(kuò)展開放架構(gòu)）的初衷。通過 SOAFEE，Arm 為汽車和云計(jì)算社區(qū)構(gòu)建起一個(gè)共同的平臺，以促進(jìn)協(xié)作和測試，進(jìn)而推動軟件定義汽車 (SDV) 時(shí)代的發(fā)展。
在移動平臺方面，終端用戶對于包括游戲與 AI 應(yīng)用等移動體驗(yàn)的極致追求為性能帶來了更高的要求。而 Arm 持續(xù)在軟件前沿領(lǐng)域引領(lǐng)移動端圖形渲染技術(shù)的發(fā)展，致力于確保開發(fā)者可以輕松利用我們通過 Arm Immortalis GPU 帶來的各種先進(jìn)技術(shù)與卓越性能。而在今年稍早前，為實(shí)現(xiàn)更為卓越的移動體驗(yàn)，與 Arm 終端計(jì)算子系統(tǒng) (CSS) 同步推出了 Arm Kleidi，這是一組可與推理引擎進(jìn)行集成的開源軟件內(nèi)核，其中包括面向 AI 工作負(fù)載的 KleidiAI 和面向計(jì)算機(jī)視覺應(yīng)用的 KleidiCV。Arm Kleidi 的推出再次印證了 Arm 作為端側(cè)生成式 AI 計(jì)算平臺的領(lǐng)先地位。它使開發(fā)者無需學(xué)習(xí)額外的工具和技能，就能夠在廣泛的硬件中獲得 Arm CPU 的出色 AI 性能。此外，適用于安卓系統(tǒng)的 CSS 參考軟件棧搭配固定虛擬平臺 (Fixed Virtual Platform, FVP)，有助于我們的合作伙伴加速流片前的軟件開發(fā)。
賦能軟件開發(fā)者實(shí)現(xiàn) AI 創(chuàng)新
AI 作為當(dāng)下最大的工作負(fù)載，如何使其能更高效、簡單地運(yùn)行于 Arm 計(jì)算平臺之上是我們關(guān)注的重點(diǎn)之一，其主要挑戰(zhàn)在于如何管理好將 AI 推理從云端擴(kuò)展到邊緣側(cè)時(shí)所帶來的復(fù)雜性，使得開發(fā)者能更順暢地進(jìn)行 AI 創(chuàng)新。
AI 企業(yè)目前仍處于用戶獲取階段，快速發(fā)展和實(shí)現(xiàn)新功能遠(yuǎn)比考慮成本更為重要。然而，隨著企業(yè)在市場趨向穩(wěn)定之后開始尋求盈利，我們相信 AI 推理將會被擴(kuò)展至邊緣側(cè)。除了成本因素之外，邊緣側(cè)推理還具備增強(qiáng)隱私保護(hù)、減少延遲，以及能夠在無法連接到云端時(shí)照常提供服務(wù)等多種優(yōu)勢。但與此同時(shí)，復(fù)雜性也隨之增加。在云環(huán)境中，企業(yè)可以把控架構(gòu)、CPU 和性能等各個(gè)方面，并只需針對一個(gè)平臺進(jìn)行優(yōu)化。而在端側(cè)，以安卓生態(tài)系統(tǒng)為例，我們預(yù)計(jì)其在過去十年間就推出了不下 30 款 CPU、25 款 GPU 和 20 款 NPU，其中的多數(shù)處理器仍會應(yīng)用于現(xiàn)今消費(fèi)者所使用的設(shè)備中。但毋庸置疑的是，若能將更多的 AI 推理卸載到端側(cè)，企業(yè)的云端成本就會降低。
Arm KleidiAI 有助于確保開發(fā)者能夠獲得 AI 開發(fā)所需的性能、工具和軟件庫，從而打造新一波非凡的 AI 體驗(yàn)。AI 應(yīng)用需要考慮成本、隱私、延遲和連接性等問題，利用 KleidiAI 將工作負(fù)載擴(kuò)展至邊緣側(cè)，能夠確保我們的合作伙伴以較低的成本為開發(fā)者提供出色的用戶體驗(yàn)。
與此同時(shí)，Arm 通過將 KleidiAI 集成到主流的 AI 框架中，包括 Google 和 Meta 的推理引擎中，為生成式 AI 工作負(fù)載帶來了顯著的性能提升，進(jìn)而惠及廣大的開發(fā)者群體。具體來說，與參考 CPU 實(shí)現(xiàn)方案相比，Meta Llama 3 和微軟 Phi-3 大語言模型 (LLM) 的首次詞元響應(yīng)時(shí)間提升了近三倍。與此同時(shí)，Unity Sentis 在集成 KleidAI 后，成功啟用了 int4 量化功能，將運(yùn)行 Phi-2 LLM 時(shí)的模型內(nèi)存占用率降低了約 73%。而在國內(nèi)，作為Arm 多年來重要的合作伙伴，我們已攜手騰訊，將 KleidiAI 集成到了騰訊混元大模型中，加速端側(cè) AI 推理。這些僅僅只是一個(gè)開端，我們未來還計(jì)劃推出更多軟件庫、計(jì)算內(nèi)核和引擎集成，持續(xù)在 Arm 平臺上構(gòu)建 AI 的未來。
Arm 是軟件運(yùn)行的基石
Arm 持續(xù)的軟件投入正建立起全球最大的 AI 開發(fā)者社區(qū)，以期實(shí)現(xiàn)我們的愿景，使得所有軟件都能無縫地運(yùn)行在基于 Arm 架構(gòu)的系統(tǒng)之上。Arm 不僅提供了應(yīng)用廣泛的通用計(jì)算平臺，而且通過 IP 與開源軟件和工具乃至廣泛的行業(yè)領(lǐng)先生態(tài)系統(tǒng)相結(jié)合，讓全球上千萬開發(fā)者都可以使用 Arm 計(jì)算平臺作為 AI 創(chuàng)新的基礎(chǔ)，基于 Arm 平臺的 AI 將無處不在。
下載ECAD模型
