本文來自微信公眾號“半導體產(chǎn)業(yè)縱橫”，編譯自biztechmagazine。
DPU允許企業(yè)從CPU和GPU上卸載網(wǎng)絡功能，從而提高其他處理器的效率。
近年來，圖形處理單元變得越來越突出，因為它們能夠對現(xiàn)代人工智能應用所依賴的大型數(shù)據(jù)集執(zhí)行復雜的計算。
盡管GPU確實正處于發(fā)展的鼎盛時期，但它們并不是企業(yè)處理能力工具箱中唯一重要的組件。
除了GPU和中央處理器之外，還有數(shù)據(jù)處理單元（DPU）。NVIDIA首席執(zhí)行官黃仁勛表示：“CPU用于通用計算，GPU用于加速計算，而DPU負責在數(shù)據(jù)中心移動數(shù)據(jù)并進行數(shù)據(jù)處理。”
通過利用DPU，IT領導者可以優(yōu)化其基礎設施、提高性能并減輕CPU工作負載，使其成為現(xiàn)代數(shù)據(jù)中心和云環(huán)境中的關鍵組件。
什么是DPU（數(shù)據(jù)處理單元）？它如何工作？
TIRIAS Research首席分析師Jim McGregor表示，思考DPU的最佳方式是將其視為“內(nèi)部或間接工作負載加速器”。
他說，它的“設計目的是處理CPU通常需要處理的任務，例如安全性、網(wǎng)絡處理或壓縮”，并補充說網(wǎng)絡處理通常僅指數(shù)據(jù)傳輸。
McGregor表示，雖然DPU可以是完全可編程的單元，例如現(xiàn)場可編程門陣列，但大多數(shù)DPU本質上是“片上系統(tǒng)”（SoC），其核心模塊針對特定功能進行了優(yōu)化。
重要的是，他說，“它們都是獨一無二的，不能互換。一家供應商的DPU可能具有與另一家供應商的DPU不同的功能和特性。”
IDC支持技術團隊網(wǎng)絡和通信基礎設施主管分析師Brandon Hoff表示，DPU主要用于數(shù)據(jù)中心（特別是數(shù)據(jù)中心服務器）。DPU通常被超大規(guī)模云提供商廣泛部署，例如Amazon Web Services、Microsoft Azure和Google Cloud。
Hoff指出，DPU對于想要構建和使用“AI工廠”的企業(yè)至關重要，“AI工廠”是用于大規(guī)模開發(fā)、部署和管理AI應用程序的標準化環(huán)境。“AI工廠需要一種調度結構，以便GPU之間相互通信，而DPU可以做到這一點，”他說。“這就是許多超大規(guī)模企業(yè)開始使用DPU來構建調度工廠的原因。”
DPU有哪些功能？
McGregor表示，安全、網(wǎng)絡、存儲和人工智能分析是DPU最常見的功能。
DPU的一個關鍵功能是將GPU聯(lián)網(wǎng)，使它們能夠更高效地傳輸數(shù)據(jù)。Hoff指出，GPU的硅片上只能容納有限的晶體管數(shù)量。
“因此，你將它們連接到一個擴展網(wǎng)絡和擴展網(wǎng)絡中，而DPUS正在使用擴展網(wǎng)絡，”他說。Hoff指出，GPU將處理信息，然后停止并共享該信息，而用于該網(wǎng)絡和數(shù)據(jù)傳輸?shù)臅r間可能占總計算時間的50%，這意味著它們的運行效率只有其應有的一半。
DPU可從GPU上卸載該功能，從而使GPU更加高效。“這就是聯(lián)網(wǎng)如此重要的原因，擁有一個可以保證交付和吞吐量的調度結構也很重要，”Hoff說道。
Hoff說，將DPU與以太網(wǎng)上的標準交換機配對，使企業(yè)能夠創(chuàng)建“幾乎無損的高性能結構”，這意味著網(wǎng)絡可以在幾乎沒有數(shù)據(jù)包丟失的情況下傳輸數(shù)據(jù)。
DPU與GPU、CPU：有什么區(qū)別？
“DPU與CPU和GPU完全不同，因為它們也被稱為片上系統(tǒng)、專用集成電路，專為一組特定的功能而設計，”McGregor說。
McGregor表示，CPU的設計遵循一套特定的指令集，可完全編程以實現(xiàn)各種功能。它們是現(xiàn)代計算的支柱，可處理操作系統(tǒng)和應用程序的各種計算任務。
McGregor說：“GPU是為圖形和多媒體處理而設計的，但越來越多地具有特定于AI的核心，因為它們的大規(guī)模并行化使它們非常適合AI處理。”
Hoff指出，GPU能夠高效地執(zhí)行生成式AI大型語言模型中推理所需的計算，從而節(jié)省組織的時間和能源成本。
Hoff說：“DPU位于基礎設施方面，我可以在那里加速網(wǎng)絡”，以實現(xiàn)預定的結構、安全性、加密和存儲連接。
DPU有哪些好處？
DPU可卸載CPU的網(wǎng)絡和存儲功能，從而讓其能夠運行更多應用程序。“它們可以更無縫地運行應用程序，而不必擔心在發(fā)送數(shù)據(jù)時出現(xiàn)問題，”Hoff說道。
DPU的主要優(yōu)勢在于可用于基礎設施。具體來說，可用于數(shù)據(jù)中心服務器。Hoff表示，DPU還可以簡化數(shù)據(jù)中心架構。
“對于混合云，它讓我的應用程序可以在服務器上以裸機或接近裸機的速度運行，”他說。“所以我不必再擔心虛擬機管理程序了，我已經(jīng)卸載了很多虛擬機管理程序服務。”
“現(xiàn)在，我可以開始真正改善我的混合云部署，無論是在云端，還是在我的數(shù)據(jù)中心內(nèi)，或者任何我想要放置這些工作負載的地方，”Hoff補充道。
