英偉達AI之路遇打擊，微軟實時AI云平臺為啥選擇了英特爾的FPGA？

長遠來看，英特爾豪賭 167 億美元收購 FPGA 制造商 Altera 的舉動是一筆好買賣?，F(xiàn)在，F(xiàn)PGA 已經成為深層神經網絡中 GPU 的強力競爭對手；

預計英特爾的 FPGA 將減緩英偉達數(shù)據中心 / 汽車業(yè)務板塊的增長速度。

英特爾收購 Altera 時豪擲的 167 億美金終于見到回報了?，F(xiàn)在，Altera 的 FPGA（現(xiàn)場可編程門陣列）產品成為英特爾對抗英偉達基于 GPU 的深度學習神經網絡平臺的利器。與 CPU（中央處理單元）相比，GPU（圖形處理單元）在并行計算方面存在優(yōu)勢，GPU 專家英偉達借此躋身為深度學習計算領域的公認領導者。

然而，英偉達的投資者們應該注意到，微軟新的實時人工智能云平臺“BrainWave 項目”搭載了英特爾的 Stratix 10 FPGA。微軟在選擇深度神經網絡[DNN]處理單元或 DPU 時，沒有選擇英偉達的 Tesla 或者 Volta GPU，反而選擇了 Stratix 10。 英特爾將從微軟在全球各個數(shù)據中心大規(guī)模部署“BrainWave”項目中獲得顯著的經濟效益。英特爾沒有任何獨立的 GPU 產品，但它擁有的 FPGA 足以加強其未來在超大型深度神經網絡中的作用。

為什么這很重要
現(xiàn)在，以人工智能為中心的數(shù)據中心和汽車業(yè)務板塊為英偉達貢獻的季度收入已經超過 5 億美金。微軟在向 Azure 客戶提供的 Brainwave 項目中使用 FPGA 后，也可以為英特爾貢獻同等規(guī)模的季度收入。我估計，除了微軟之外，其它涉足人工智能的公司也會在其 GPU 加速的深度學習平臺中使用英特爾的 FPGA。

英偉達股價上升到目前的高度，部分原因來自于它在深度學習計算方面的先發(fā)優(yōu)勢。微軟采用英特爾的 FPGA 加速其深度神經網絡也可以幫助提升其股價表現(xiàn)。專注 AI 的投資者們現(xiàn)在應該正視英特爾，它的 Stratix 10 產品讓英特爾一躍成為深層神經網絡的硬件供應商巨頭。

過去三年中，英偉達的股票大幅跑贏了英特爾。未來，應用在微軟 Azure 服務業(yè)務中的 Stratix FPGA 將成為英特爾進入企業(yè) AI 市場的遲到的船票。

通過 GPU 加速的 Azure 產品，微軟與英偉達公司建立了合作伙伴關系。另一方面，BrainWave 項目是微軟使用 FPGA 加速器推進其實時人工智能商業(yè)服務的舉措。

訓練深度學習計算機是一個需要高吞吐量的計算密集型過程，GPU 優(yōu)異的并行計算性能使其成為理想選擇。然而，GPU 能夠并行處理復雜的訓練輸入，F(xiàn)PGA 則對加速推理很有效。

加速推理的主要目的是改善服務器與最終用戶之間的延遲。 微軟對“BrainWave”項目的推廣定位是實時（零延遲）AI 平臺。因此，英特爾的 FPGA 比英偉達的 GPU 更加適合做微軟 BrainWave 項目的 DPU。

BrainWave 項目最終可能用在微軟為百度自主駕駛汽車定制的云框架 / 解決方案上。微軟是百度自主駕駛汽車業(yè)務上的合作伙伴。和微軟一樣，百度也在其數(shù)據中心上使用 FPGA?；?FPGA 的 BrainWave 項目被標榜為針對計算機視覺、機器學習和深度學習，它可以滿足未來自動駕駛汽車的云基礎設施需求。

GPU 和 FPGA 是目前雖小但正在快速增長的人工智能服務行業(yè)的關鍵元件。 根據 Tractica 的報告，到 2025 年，與 AI 相關的產品和服務市場規(guī)模將增長到 368 億美元。FPGA 可以幫助英特爾在這個利基市場上更好地競爭。

未來，英特爾真的需要更多 FPGA 產品客戶。它需要這塊收入來幫助支付它在以 167 億美元收購 Altera 時發(fā)行的 70 億美元債券。每個新收入來源都可以幫助英特爾恢復因大舉投資 Altera 而拉下的饑荒。

為什么英特爾的 FPGA 對微軟至關重要
Stratix 10 的 F32 峰值性能仍然明顯低于英偉達的 Pascal GPU。 然而，市場正日趨采用緊湊型低精度數(shù)據類型（低于 32 位或 FP32）。 TensorFlow 和 Caffe 等 DNN 軟件框架支持低精度 FP16（16 位）和 FP8（8 位）數(shù)據類型。在這些不需要 FP32 級性能的深入學習 / 機器學習任務中，F(xiàn)PGA 可以大行其道。

對于非常低精度的 2 位和 1 位 DNN 的持續(xù)改進和 FPGA 在 FP8 和 FP9 DNN 框架上的出色表現(xiàn)相輔相成。人工智能 / 深度學習并不完全依賴于英偉達 GPU 所擅長的傳統(tǒng)密集 FP32 和 FP64 運算。微軟的 Brainwave 項目并沒有使用 GPU，是因為它還希望能夠通過低精度 FPGA 實現(xiàn)更節(jié)能的 DNN。不像可以深度定制的 FPGA，當涉及到低精度、稀疏、不規(guī)則的 DNN 時，GPU 的表現(xiàn)很差。

在早期測試中，基于 Stratix 10 的 Brainwave 項目中的 FPGA 硬件持續(xù)計算性能達到 39.5 萬億次每秒，這個測試是微軟在定制的低精度 8 位浮點格式下完成的。隨著繼續(xù)優(yōu)化完善 Brainwave 項目，預計性能還可以進一步提高。

結論
微軟長期以來對 FPGA 的興趣是英特爾大舉押注 Altera 的原因之一。BrainWave 項目是微軟 2011 年推出的 Catapult 項目的延續(xù)。六年前，微軟就已經在其數(shù)據中心中配備了 Altera FPGA 加速板。現(xiàn)在，微軟正在使用英特爾最新的 Stratix 10 FPGA 來加速基于云的深度學習任務，而不僅僅是傳統(tǒng)的企業(yè)計算工作負載。

微軟早在 2011 年就知道，傳統(tǒng)的 Xeon CPU 無法勝任 AI 計算任務。英特爾迅速收購 Altera 的舉措表明，它已準備好適應微軟轉向 FPGA 加速超大型數(shù)據中心的巨大轉變。我認為，英特爾從來都沒有考慮過購買英偉達這樣的 GPU 廠商，它看中的是微軟大力推動 FPGA 加速云計算背后的趨勢，投資的是 Altera 的潛力和 FPGA 的未來。

在數(shù)據中心硬件產品上，英特爾不需要拿出自己的 GPU 來與英偉達競爭，它手中的利器是基于 14nm 工藝、面向數(shù)據中心加速應用的 Stratix 10。英特爾將繼續(xù)向數(shù)據中心運營商兜售 Xeon 處理器，同時也會努力爭取為其 FPGA 獲得新的訂單。

更多有關 FPGA 的資訊，歡迎訪問 與非網 FPGA 專區(qū)

與非網編譯內容，未經許可，不得轉載！