英偉達AI之路遇打擊 微軟實時AI雲平台為啥選擇了英特爾的FPGA?

長遠來看，英特爾豪賭167億美元收購FPGA製造商Altera的舉動是一筆好買賣。現在，FPGA已經成為深層神經網絡中GPU的強力競爭對手；英偉達應該也已經發現了，微軟新的實時雲AI/深度學習平台“BrainWave”項目正在采用英特爾的Stratix 10 FPGA；在微軟早期進行的測試中，其基於Stratix 10的“BrainWave”項目中的FPGA係統在FP8持續計算上達到39.5萬億次每秒的運算速度；微軟計劃向需要實時人工智能服務的Azure客戶推介搭載英特爾計算平台的“Brain Brain”項目。

預計英特爾的FPGA將減緩英偉達數據中心/汽車業務板塊的增長速度。

英特爾收購Altera時豪擲的167億美金終於見到回報了。現在，Altera的FPGA（現場可編程門陣列）產品成為英特爾對抗英偉達基於GPU的深度學習神經網絡平台的利器。與CPU（中央處理單元）相比，GPU（圖形處理單元）在並行計算方麵存在優勢，GPU專家英偉達借此躋身為深度學習計算領域的公認領導者。

然而，英偉達的投資者們應該注意到，微軟新的實時人工智能雲平台“BrainWave項目”搭載了英特爾的Stratix 10 FPGA。微軟在選擇深度神經網絡[DNN]處理單元或DPU時，沒有選擇英偉達的Tesla或者Volta GPU，反而選擇了Stratix 10。 英特爾將從微軟在全球各個數據中心大規模部署“BrainWave”項目中獲得顯著的經濟效益。英特爾沒有任何獨立的GPU產品，但它擁有的FPGA足以加強其未來在超大型深度神經網絡中的作用。

為什麼這很重要

現在，以人工智能為中心的數據中心和汽車業務板塊為英偉達貢獻的季度收入已經超過5億美金。微軟在向Azure客戶提供的Brainwave項目中使用FPGA後，也可以為英特爾貢獻同等規模的季度收入。我估計，除了微軟之外，其它涉足人工智能的公司也會在其GPU加速的深度學習平台中使用英特爾的FPGA。

英偉達股價上升到目前的高度，部分原因來自於它在深度學習計算方麵的先發優勢。微軟采用英特爾的FPGA加速其深度神經網絡也可以幫助提升其股價表現。專注AI的投資者們現在應該正視英特爾，它的Stratix 10產品讓英特爾一躍成為深層神經網絡的硬件供應商巨頭。

過去三年中，英偉達的股票大幅跑贏了英特爾。未來，應用在微軟Azure服務業務中的Stratix FPGA將成為英特爾進入企業AI市場的遲到的船票。

通過GPU加速的Azure產品，微軟與英偉達公司建立了合作夥伴關係。另一方麵，BrainWave項目是微軟使用FPGA加速器推進其實時人工智能商業服務的舉措。

訓練深度學習計算機是一個需要高吞吐量的計算密集型過程，GPU優異的並行計算性能使其成為理想選擇。然而，GPU能夠並行處理複雜的訓練輸入，FPGA則對加速推理很有效。

加速推理的主要目的是改善服務器與最終用戶之間的延遲。 微軟對“BrainWave”項目的推廣定位是實時（零延遲）AI平台。因此，英特爾的FPGA比英偉達的GPU更加適合做微軟BrainWave項目的DPU。

BrainWave項目最終可能用在微軟為百度自主駕駛汽車定製的雲框架/解決方案上。微軟是百度自主駕駛汽車業務上的合作夥伴。和微軟一樣，百度也在其數據中心上使用FPGA。基於FPGA的BrainWave項目被標榜為針對計算機視覺、機器學習和深度學習，它可以滿足未來自動駕駛汽車的雲基礎設施需求。

GPU和FPGA是目前雖小但正在快速增長的人工智能服務行業的關鍵元件。 根據Tractica的報告，到2025年，與AI相關的產品和服務市場規模將增長到368億美元。FPGA可以幫助英特爾在這個利基市場上更好地競爭。

未來，英特爾真的需要更多FPGA產品客戶。它需要這塊收入來幫助支付它在以167億美元收購Altera時發行的70億美元債券。每個新收入來源都可以幫助英特爾恢複因大舉投資Altera而拉下的饑荒。

為什麼英特爾的FPGA對微軟至關重要

Stratix 10的F32峰值性能仍然明顯低於英偉達的Pascal GPU。 然而，市場正日趨采用緊湊型低精度數據類型（低於32位或FP32）。 TensorFlow和Caffe等DNN軟件框架支持低精度FP16（16位）和FP8（8位）數據類型。在這些不需要FP32級性能的深入學習/機器學習任務中，FPGA可以大行其道。

對於非常低精度的2位和1位DNN的持續改進和FPGA在FP8和FP9 DNN框架上的出色表現相輔相成。人工智能/深度學習並不完全依賴於英偉達GPU所擅長的傳統密集FP32和FP64運算。微軟的Brainwave項目並沒有使用GPU，是因為它還希望能夠通過低精度FPGA實現更節能的DNN。不像可以深度定製的FPGA，當涉及到低精度、稀疏、不規則的DNN時，GPU的表現很差。

在早期測試中，基於Stratix 10的Brainwave項目中的FPGA硬件持續計算性能達到39.5萬億次每秒，這個測試是微軟在定製的低精度8位浮點格式下完成的。隨著繼續優化完善Brainwave項目，預計性能還可以進一步提高。

結論

微軟長期以來對FPGA的興趣是英特爾大舉押注Altera的原因之一。BrainWave項目是微軟2011年推出的 Catapult項目的延續。六年前，微軟就已經在其數據中心中配備了Altera FPGA加速板。現在，微軟正在使用英特爾最新的Stratix 10 FPGA來加速基於雲的深度學習任務，而不僅僅是傳統的企業計算工作負載。

微軟早在2011年就知道，傳統的Xeon CPU無法勝任AI計算任務。英特爾迅速收購Altera的舉措表明，它已準備好適應微軟轉向FPGA加速超大型數據中心的巨大轉變。我認為，英特爾從來都沒有考慮過購買英偉達這樣的GPU廠商，它看中的是微軟大力推動FPGA加速雲計算背後的趨勢，投資的是Altera的潛力和FPGA的未來。

在數據中心硬件產品上，英特爾不需要拿出自己的GPU來與英偉達競爭，它手中的利器是基於14nm工藝、麵向數據中心加速應用的Stratix 10。英特爾將繼續向數據中心運營商兜售Xeon處理器，同時也會努力爭取為其FPGA獲得新的訂單。