加入星計劃,您可以享受以下權(quán)益:

  • 創(chuàng)作內(nèi)容快速變現(xiàn)
  • 行業(yè)影響力擴散
  • 作品版權(quán)保護
  • 300W+ 專業(yè)用戶
  • 1.5W+ 優(yōu)質(zhì)創(chuàng)作者
  • 5000+ 長期合作伙伴
立即加入
  • 正文
  • 推薦器件
  • 相關(guān)推薦
  • 電子產(chǎn)業(yè)圖譜
申請入駐 產(chǎn)業(yè)圖譜

從實驗室到應(yīng)用:推動生成式AI的成功

06/18 08:16
589
閱讀需 6 分鐘
加入交流群
掃碼加入
獲取工程師必備禮包
參與熱點資訊討論

2023年,生成式AI在科技領(lǐng)域異軍突起。隨著ChatGPT獲得了巨大的成功,亞馬遜、微軟和谷歌等公司紛紛加快步伐,掀起了一股創(chuàng)新浪潮,以重塑企業(yè)和用戶利用科技提高生產(chǎn)力的方式。生成式AI已在制藥和法律等多個領(lǐng)域取得了顯著進展,但這只是一個開始。根據(jù)麥肯錫的調(diào)查,中國企業(yè)人工智能與業(yè)務(wù)相結(jié)合的能力有很大的進步空間,當前只有9%的中國企業(yè)可借助AI實現(xiàn)10%以上的收入增長。只有當企業(yè)走出實驗階段,開始在實際應(yīng)用中更廣泛地使用生成式AI時,其真正的作用才能更好地展現(xiàn)。

但是,想要將生成式AI的價值最大化,企業(yè)必須克服成本和信任的挑戰(zhàn)。而要做到這一點,就需要一個充分利用云的強大數(shù)據(jù)路線圖。

成本和信任是最大的障礙

在生成式AI應(yīng)用中,如果模型是基于不可信的數(shù)據(jù)訓(xùn)練而成的,它生成有用結(jié)果的可能性就會很小。當前的挑戰(zhàn)在于,許多企業(yè)的數(shù)據(jù)治理和安全仍處于初級階段,關(guān)鍵信息往往被鎖在孤島中。如果不進行高成本的整合,這些信息實際上是無法被使用的。在實踐中,這意味著AI訓(xùn)練數(shù)據(jù)的質(zhì)量可能很差,缺乏關(guān)鍵的業(yè)務(wù)背景。這可能會導(dǎo)致幻覺,即看似真實的虛構(gòu)信息或缺乏必要背景的事實反應(yīng)。無論哪種情況,都對企業(yè)無益。

另一個關(guān)鍵痛點是自主運行生成式AI項目的成本高昂。雖然外包存在安全、合規(guī)和其他潛在風(fēng)險,但自主完成所有工作的成本過于高昂。一個專門用于運行大語言模型(LLM)的尖端GPU大約需要3萬美元。而一家企業(yè)如果要運行一個擁有1750億個參數(shù)的模型,可能需要2000個GPU,成本高達數(shù)千萬美元。

將實驗室中的生成式AI投入到實際應(yīng)用中

將云基礎(chǔ)設(shè)施作為AI基礎(chǔ)逐漸成為趨勢。云提供商擁有GPU資源,可幫助客戶擴展生成式AI項目的規(guī)模,客戶只需按照使用量支付費用即可。這使得企業(yè)能夠使用生成式AI進行實驗,并在完成修補后關(guān)閉模型,不必在本地環(huán)境中配置GPU。這種方式不僅節(jié)省了資本支出,還為企業(yè)提供了在必要時重新進行內(nèi)部運行的靈活性。

所以,在決定使用云后,企業(yè)如何才能讓生成式AI項目走出實驗室,并在實際應(yīng)用中為企業(yè)帶來價值呢?在這方面,可以借鑒BRIESO(構(gòu)建、完善、識別、實驗、擴展和優(yōu)化)模型:

構(gòu)建(Build):構(gòu)建現(xiàn)代數(shù)據(jù)架構(gòu)和通用企業(yè)數(shù)據(jù)網(wǎng)格。無論是在本地還是在云中,這種構(gòu)建都將幫助企業(yè)獲得對數(shù)據(jù)的可見性和控制權(quán)。而且,這還有助于企業(yè)建立一個統(tǒng)一本體,用于映射、保護和實現(xiàn)所有數(shù)據(jù)孤島合規(guī)性。所以,企業(yè)應(yīng)尋找不僅能夠滿足當前需求,而且能夠根據(jù)未來增長進行擴展的工具。通常情況下,開源解決方案最為靈活。

完善(Refine):根據(jù)當前業(yè)務(wù)需求完善和優(yōu)化數(shù)據(jù)。在這一階段,盡可能準確預(yù)測未來需求非常重要,這將減少遷移過多非必要數(shù)據(jù)的可能性,這些數(shù)據(jù)不會帶來任何價值,還會大幅增加項目成本。

識別(Identify):尋找將云用于特定工作負載的機會。工作負載分析將幫助企業(yè)確定在哪些方面可以產(chǎn)生最大價值。這個階段的關(guān)鍵在于通過打通各個位置(無論是本地還是多個云)的數(shù)據(jù)來優(yōu)化項目。這時也是考慮潛在開發(fā)用例的好時機。

實驗(Experiment):嘗試使用預(yù)構(gòu)建的第三方生成式AI框架,找到最符合業(yè)務(wù)需求的框架。可供選擇的框架很多,例如AWS的Bedrock(Hugging Face)、Azure的OpenAI(ChatGPT)和谷歌的AI Platform(Vertex)。重要的是不要過早做出決定。為提高項目成功的可能性,模型必須與現(xiàn)有企業(yè)數(shù)據(jù)緊密結(jié)合。

擴展和優(yōu)化(Scale and Optimise):在選擇了合適的平臺后,就可以考慮選擇一到兩個用例擴展為生產(chǎn)模型。企業(yè)應(yīng)持續(xù)優(yōu)化流程,但也要密切關(guān)注與GPU相關(guān)的成本,以防成本大幅提高。當企業(yè)的生成式AI應(yīng)用能力開始提高時,應(yīng)尋找進一步優(yōu)化其使用的方法。靈活的AI平臺是保證長期成功的關(guān)鍵。

未來近在眼前

IT和企業(yè)領(lǐng)導(dǎo)人對生成式AI應(yīng)用的變革潛力感到興奮是可以理解的。全球98%的高管認為AI基礎(chǔ)模型將在諸如在改進客戶服務(wù)方面,或是在實現(xiàn)無縫銜接的供應(yīng)鏈管理和大幅加強開發(fā)運維方面,在未來3-5年戰(zhàn)略中發(fā)揮重要作用。

企業(yè)仍然需要做很多工作。任何AI項目要想取得成功,就必須以現(xiàn)代數(shù)據(jù)架構(gòu)為起點,然后進行完善、識別、實驗、擴展和優(yōu)化。企業(yè)可以利用生成式AI取得成功的未來已指日可待。

推薦器件

更多器件
器件型號 數(shù)量 器件廠商 器件描述 數(shù)據(jù)手冊 ECAD模型 風(fēng)險等級 參考價格 更多信息
STM32F401VET6 1 STMicroelectronics High-performance access line, Arm Cortex-M4 core with DSP and FPU, 512 Kbytes of Flash memory, 84 MHz CPU, ART Accelerator

ECAD模型

下載ECAD模型
$10.53 查看
STM32F407VGT6 1 STMicroelectronics High-performance foundation line, Arm Cortex-M4 core with DSP and FPU, 1 Mbyte of Flash memory, 168 MHz CPU, ART Accelerator, Ethernet, FSMC

ECAD模型

下載ECAD模型
$20.39 查看
ATMEGA328P-MU 1 Microchip Technology Inc IC MCU 8BIT 32KB FLASH 32VQFN

ECAD模型

下載ECAD模型
$2.5 查看

相關(guān)推薦

電子產(chǎn)業(yè)圖譜