受惠於過去幾年人工智慧的爆發，全球GPU領導廠商英偉達不但成為全球市值最高的半導體企業。與此同時，公司又收購了Mellanox和 Arm ，打造了完整的資料中心晶片產品線，全新的英偉達儼然成為資料中心最炙手可熱的明星。

英偉達創始人 黃仁勳 在昨晚開幕的GTC大會上也表示，在其CPU、DPU和GPU這三條產品線，公司未來在資料中心將會創造更多可能。而在本次大會上，英偉達也帶來了CPU和DPU的更新。尤其是收購Arm之後釋出的首款CPU，更吸引了廣泛的關注。

在筆者看來，這顆晶片的釋出，又一次吹響了英偉達向 英特爾 盤踞的資料中心市場進攻的號角。

為什麼資料中心需要新的xPU？

熟悉資料中心構造的讀者應該知道，傳統的資料中心必不可少的一個晶片那就是英特爾 X86架構 的CPU。然而伴隨著AI的流行，這種傳統的架構就不再滿足了新興應用的需求，這就給有用平行計算先天優勢的英偉達帶來了機會，這也是他們過去幾年在資料中心如魚得水的原因。

但按照黃仁勳的說法，隨著資料中心訓練模型的變大，加上對晶片處理能力需求的提升，這就給資料中心的CPU的資料“搬運”和網路相關處理帶來了新的挑戰。換而言之，就是當前資料中心使用的X86 CPU很難兼顧資料在CPU和GPU之間流動和網路處理的需求，為此這就給DPU和英偉達自研的Arm架構CPU帶來了機會。這也是英偉達收購Mellanox和Arm的原因。

所謂DPU，也就是Data Processing Unit（資料處理器）。在英偉達的產品線佈局中，這是一款把ARM處理器核、VLIW向量計算引擎和智慧網絡卡的功能整合在了一起的產品，主要應用在分散式儲存、網路計算和網路安全領域。根據相關資料顯示，這款產品是他們基於公司之前收購的Mellanox內部孵化而成的。

據介紹，DPU可從CPU上解除安裝關鍵的網路、儲存和安全任務，使企業能夠將其IT基礎設施轉變為最先進的資料中心。此類資料中心可實現加速、具有完全可程式設計性，並具有 “零信任”安全功能，防止資料洩露和網路攻擊。這就減輕了CPU的負載，讓其只專注於亟需處理的各種企業應用程式。

來到CPU方面，正如前文所說，資料中心目前幾乎都是X86架構的至強處理器的市場。然而黃仁勳指出，正是因為這樣的配置，影響了整個資料中心的資料傳輸。“現在CPU的儲存和PCIE頻寬，嚴重影響了GPU能力的釋放”，黃仁勳強調，為此他推出了全新的基於Arm架構打造的CPU Grace，希望藉助這個新處理器以及自有的NVlink來解決這個資料瓶頸問題。

英偉達xPU的強勢出擊

在上述思路的驅動下，英偉達推出了全新的DPU Bluefield-3 和新款CPU Grace。

首先看DPU方面，據介紹，BlueField-3將具有16個Arm A78核心，能提供十倍於BlueField 2的計算能力，在頻寬方便則可以達到400Gbit / s，同時也加上了對PCIe gen 5的支援，獲得了比PCIe gen 3快四倍的速度。在這個晶片中， Nvidia 還加入了兩個加速器，為軟體定義儲存、網路、安全、流和TLS / IPSEC加密等應用提供支援。此外和BlueField-2一樣BLUEFIELD-3能給5G電信和時間同步資料中心的精確定時。資料顯示BlueField-3的額定值為350 SPECINT和1。5 TOPS（TeraOps）。

黃仁勳進一步指出，一個Bluefield-3 DPU約等於300個x86 cpu核心，因此它能夠大大減輕CPU的負載。BlueField-3同時還可以充當Nvidia的Morpheus雲原生網路安全框架的監視或遙測代理。據介紹，公司將於2024年推出效能更強的Bluefield-3 ，進一步加強公司在這個市場的影響力。

以美國海軍少將、計算機程式設計先驅Grace Hopper的名字命名的CPU，則開啟了英偉達資料中心的新時代。據黃仁勳介紹，這個處理器能夠與常規GPU產品一起工作，讓公司能夠獲得更全面地垂直整合其硬體堆疊的能力。按照NVIDIA的說法，該晶片是專門為大規模神經網路工作負載設計的，預計將於2023年在NVIDIA產品中使用。

按照anandtech介紹，Grace的釋出旨在填補NVIDIA AI伺服器產品線中CPU的空白。該公司的GPU非常適合某些類的深度學習工作負載，但GPU並不能執行資料中心裡的所有操作，這就是CPU存在的意義，為此NVIDIA當前的伺服器產品通常依賴於AMD的EPYC處理器和Intel至強這樣的處理器，

但正如前文所說，這些處理器對於一般的計算而言是非常快，但不能滿足NVIDIA所追求的那種高速I / O和深度學習最佳化。特別在NVIDIA目前使用PCI Express來進行CPU和GPU連線時，這種連線方式就成為瓶頸。如果引入NVLink，那麼系統中的GPU彼此之間就可以直接快速對話，而不需返回主機CPU或系統RAM。

“基於Grace的系統與NVIDIA GPU緊密結合後，效能將比目前基於X86 CPU的，最先進的 NVIDIA DG高出十倍”，黃仁勳表示。“絕大多數的資料中心仍將繼續使用現有的CPU，而Grace將主要用於計算領域的細分市場”，黃仁勳進一步指出。

從anandtech的介紹我們可以看到，在之前，NVIDIA為了在資料中心使用NVLink，選擇了POWER9處理器作為合作伙伴，但Grace的釋出，從某種程度上宣佈了這種合作的終結。

寫在最後

其實在這次釋出會上，NVIDIA還發布了他們新一代的AI自動駕駛汽車處理器NVDIA DRIVE Atlan，它能夠提供約為上代產品Orin四倍的速度。作為一款集成了DPU、下一代架構GPU、新型Arm 核心和最新深度學習和計算機視覺加速器的SoC，NVDIA DRIVE Atlan能夠獲得高達1000TOPS的速度，以及能提供極高的頻寬，為未來的自動駕駛設計賦能。

除了晶片以外，NVIDIA還帶來了各種軟硬體的更新，例如用於模擬、協作、和自助機器訓練的NVIDIA Omniverse，專為工作組打造的行動式AI資料中心NVIDIA DGX Station，面向企業級的NVDIA EGX，用於訓練Transformer框架的NVIDIA Megatron，用於計算藥物研發加速庫Clara Discovery的一些模型，能夠為量子電路模擬器提供加速的cuQuantum，資料中心安全平臺NVIDIA Morpheus，先進的深度學習對話式AI Jarvis和推理伺服器Triton等一系列產品。此外，英偉達還宣佈了和Ampere computing和Amazon等一系列Arm伺服器晶片廠商的合作，共同推動Arm生態的發展。

黃仁勳表示，憑藉公司現有的晶片、軟體、AI和各種產品，英偉達能助力開發者成就畢生的事業。尤其是在晶片方面，黃仁勳強調，公司資料中心路線圖包括CPU、GPU和DPU這三類晶片，而Grace和BlueField是其中必不可少的關鍵組成部分。每個晶片架構歷經兩年的打磨週期（週期內可能出現轉變），一年專注於 x86 平臺，另一年專注於 Arm 平臺。

“我們每年都會發布激動人心的新品。三類晶片，逐年飛躍，一個架構。”黃仁勳補充說。

*免責宣告：本文由作者原創。文章內容系作者個人觀點，半導體行業觀察轉載僅為了傳達一種不同的觀點，不代表半導體行業觀察對該觀點贊同或支援，如果有任何異議，歡迎聯絡半導體行業觀察。

今天是《半導體行業觀察》為您分享的第2644內容，歡迎關注。

晶圓｜積體電路｜裝置｜封測｜射頻｜儲存｜美國｜臺積電