本文來自微信公眾號“AI芯天下”，作者/方文三。
英偉達的崛起是基于CUDA和GPU的，但隨著人工智能、大數(shù)據(jù)和云計算的興起，英偉達也需要不斷創(chuàng)新來保持競爭力。
為此，他們開始著手開發(fā)DPU并推出了DOCA。
英偉達真正的護城河是軟硬件生態(tài)
計算機處理器分為CPU和GPU，它們均可執(zhí)行計算任務。然而，兩者在計算方式上存在顯著的差異。CPU更適合進行線性計算，而GPU則更擅長并行計算。
通過CUDA這一媒介，研究人員和編程人員能夠使用編程語言與硬件設備進行交互，將復雜的數(shù)學問題分解成多個簡單的子問題，然后分發(fā)給GPU的多個計算核心進行處理。
在航空航天、生物科學研究、機械和流體模擬以及能源探索等領域，有80%的研究工作是建立在CUDA基礎之上的。
其實各廠商的AI芯片的性能差距并不很大，也可以追趕，拉開差距的關(guān)鍵在于英偉達的CUDA計算架構(gòu)及軟硬件生態(tài)。
通過CUDA技術(shù)的運用，原本僅用于3D渲染的GPU得以在通用計算領域發(fā)揮作用，從而將應用領域從游戲（圖形渲染）擴展到了高性能計算、自動駕駛等多個領域。
英偉達作為GPU核心供應商，通過CUDA架構(gòu)構(gòu)建了一個高度穩(wěn)定的開發(fā)者生態(tài)系統(tǒng)，推動了其從傳統(tǒng)GPU供應商轉(zhuǎn)型為平臺化公司。
AI浪潮下，軟硬件生態(tài)位發(fā)生變化
而在生成式AI時代，人工智能正在呈爆發(fā)式發(fā)展，成為數(shù)據(jù)中心算力需求的主要驅(qū)動力之一。
為了卸載、加速和隔離數(shù)據(jù)中心基礎設施工作負載，DPU應運而生。
通過為高帶寬、低延遲、數(shù)據(jù)密集的計算場景提供計算引擎，DPU成了繼CPU、GPU之后，數(shù)據(jù)中心場景中的第三顆重要的算力芯片。
可以說，DPU是企業(yè)構(gòu)建加速計算平臺、AI工廠的關(guān)鍵。
DPU的最基本功能在于其能夠取代CPU，從而構(gòu)建以數(shù)據(jù)為中心的計算架構(gòu)。
通過采用DOCA，開發(fā)者可以創(chuàng)建軟件定義的、云原生的、由DPU加速的服務。
以此來對未來的數(shù)據(jù)中心基礎設施進行編程，同時實現(xiàn)零信任保護，以滿足現(xiàn)代數(shù)據(jù)中心日益增長的性能和安全需求。
不斷進階的DPU
去年英偉達發(fā)布了第一款DPU產(chǎn)品BlueField-2，今年的GTC上又發(fā)布了BlueField-3，BlueField-3會在明年上半年推向市場。
而從其路線圖上也可以看出，其DPU產(chǎn)品的性能實現(xiàn)了很大的跨越。從BlueField-2到BlueField-3，它的整形計算能力提升了5倍。
BlueField-2目前為軟件定義的網(wǎng)絡安全和存儲卸載了相當于125個CPU核的工作量，而BlueField-3則能達到300個CPU核。
到了BlueField-4以后，英偉達把GPU集成到DPU里來，DPU就真正成為一個完整的數(shù)據(jù)中心單元。
據(jù)預測，到2025年，DPU全球市場容量將達到120億美金。
在這個領域，業(yè)界已經(jīng)形成了一種共識，即采用可編程的、開放式的基礎設施。
社會數(shù)字化轉(zhuǎn)型浪潮下，潛在海量數(shù)據(jù)待處理，DPU的邊界、職能、價值都尚在探討前期。
DOCA軟件堆棧同步DPU腳步
通過DOCA，開發(fā)人員可以利用行業(yè)標準的API在英偉達BlueField數(shù)據(jù)處理器（DPU）上快速創(chuàng)建網(wǎng)絡，存儲，安全以及管理服務，以及AI/HPC的一系列應用程序和服務。
因此，為了在這個市場獲得更大的成功，英偉達必須努力提高DOCA的完善程度和普及程度。
在2020年的GTC大會上，英偉達發(fā)布了DOCA 1.0。
在2021年，隨著DPU產(chǎn)品在市場上的成功，英偉達推出了與之配合的DOCA 1.2。
為了進一步擴大在DPU市場的份額，英偉達不斷加大技術(shù)創(chuàng)新的力度，于2022年5月推出了DOCA 1.3。
DOCA框架為開發(fā)者提供了一致的開發(fā)體驗，簡化了開發(fā)環(huán)境和構(gòu)建部署的復雜性，從而為開發(fā)者帶來了諸多便利。
近日，據(jù)英偉達中國官方微博消息，英偉達今日發(fā)布首部DPU和DOCA編程入門書籍《數(shù)據(jù)處理器：DPU編程入門》，號稱可為使用英偉達BlueField系列DPU和DOCA開發(fā)環(huán)境的開發(fā)者提供實用指南。
結(jié)尾：
英偉達的DPU和DOCA技術(shù)無疑是一項重大突破，但它們面臨著激烈的市場競爭。
包括Marvell、Cisco和AMD等廠商也在積極研發(fā)DPU技術(shù)，亞馬遜、阿里巴巴等云服務提供商也已經(jīng)在數(shù)據(jù)中心中采用DPU技術(shù)。
競爭激烈，但英偉達憑借其豐富的經(jīng)驗和強大的研發(fā)實力，仍然有望在這個領域取得成功。
部分資料參考：硅基研究室：《英偉達的「鐮刀」，不是AI芯片》，比特洞察：《英偉達DPU借DOCA積累更多致勝元素》，岑子時評：《CUDA如何改變了科學計算的規(guī)則》
