本文來自千家網(wǎng)。
隨著人工智能(AI)的不斷發(fā)展，對高性能計(jì)算基礎(chǔ)設(shè)施的需求變得越來越重要。外圍組件互連Express(PCIe)5.0標(biāo)準(zhǔn)在數(shù)據(jù)傳輸速度和系統(tǒng)性能方面取得了顯著進(jìn)步。同樣，Compute Express Link(CXL)2.0增強(qiáng)了內(nèi)存共享并降低了延遲，使其成為AI工作負(fù)載的寶貴工具。
了解何時(shí)使用PCIe 5.0、CXL 2.0或同時(shí)支持兩者的混合交換機(jī)可以優(yōu)化各種應(yīng)用的AI系統(tǒng)，并實(shí)現(xiàn)長期系統(tǒng)可行性。
PCIe 5.0互連的最佳用例
外圍組件互連Express，通常稱為PCIe，是一種高速接口標(biāo)準(zhǔn)，用于將各種硬件組件連接到計(jì)算機(jī)主板。PCIe因其卓越的性能、可擴(kuò)展性和多功能性而被現(xiàn)代計(jì)算系統(tǒng)廣泛采用。
其最新一代PCIe 5.0旨在以最小的延遲處理大量數(shù)據(jù)傳輸，使其成為數(shù)據(jù)密集型應(yīng)用程序的理想選擇。它是一種流行的標(biāo)準(zhǔn)，未來市場將呈現(xiàn)高增長態(tài)勢。事實(shí)上，根據(jù)Allied Market Research的數(shù)據(jù)，2020年全球PCIe市場價(jià)值為35.6億美元，預(yù)計(jì)到2030年將達(dá)到75.8億美元，2021年至2030年的復(fù)合年增長率為7.6%。這一增長是由人工智能和其他數(shù)據(jù)密集型應(yīng)用對高速數(shù)據(jù)傳輸和低延遲通信日益增長的需求推動的?？紤]以下非常適合PCIe的應(yīng)用程序：
機(jī)器學(xué)習(xí)訓(xùn)練：PCIe 5.0的高帶寬允許在存儲和GPU之間快速傳輸大型數(shù)據(jù)集，從而加速訓(xùn)練過程。這對于在更短的時(shí)間內(nèi)開發(fā)復(fù)雜模型至關(guān)重要。
高性能計(jì)算(HPC)：科學(xué)模擬和復(fù)雜計(jì)算受益于PCIe 5.0快速移動大量數(shù)據(jù)的能力，確保高效的處理和分析。
實(shí)時(shí)數(shù)據(jù)處理：金融交易平臺和電信網(wǎng)絡(luò)等實(shí)時(shí)數(shù)據(jù)分析至關(guān)重要的應(yīng)用程序可以利用PCIe 5.0的速度來減少延遲并提高性能。
CXL 2.0互連的新興用例
Compute Express Link(CXL)是一種開放的行業(yè)標(biāo)準(zhǔn)互連，旨在增強(qiáng)CPU、GPU、內(nèi)存和其他加速器之間的通信。CXL旨在滿足現(xiàn)代計(jì)算工作負(fù)載日益增長的需求，旨在提供高速、低延遲通信和跨不同計(jì)算組件的高效內(nèi)存共享。
CXL 2.0在不同處理單元之間共享內(nèi)存和低延遲通信至關(guān)重要的場景中表現(xiàn)出色。與PCIe一樣，CXL標(biāo)準(zhǔn)的采用正在迅速增加。根據(jù)IDC的一份報(bào)告，到2025年，60%的新數(shù)據(jù)中心部署將采用支持CXL的設(shè)備。這種采用是由工作負(fù)載的復(fù)雜性和規(guī)模不斷增加所驅(qū)動的，這需要更高效的內(nèi)存共享和低延遲通信。從CXL標(biāo)準(zhǔn)中受益最多的應(yīng)用程序和工作負(fù)載包括：
內(nèi)存密集型工作負(fù)載：CXL 2.0允許CPU、GPU和其他加速器（如數(shù)據(jù)處理單元(DPU)和基礎(chǔ)設(shè)施處理單元(IPU)）無縫共享內(nèi)存資源，使其成為內(nèi)存數(shù)據(jù)庫和大規(guī)模數(shù)據(jù)分析等應(yīng)用程序的理想選擇。
AI推理：對于AI推理任務(wù)，部署模型以對新數(shù)據(jù)進(jìn)行預(yù)測，CXL 2.0的高效內(nèi)存共享通過減少處理單元之間數(shù)據(jù)移動的開銷來提高性能。
云計(jì)算：數(shù)據(jù)中心受益于CXL 2.0優(yōu)化資源利用率和改善服務(wù)器之間通信的能力，從而提高整體效率并降低成本。
混合交換機(jī)的優(yōu)勢
支持PCIe 5.0和CXL 2.0的混合交換機(jī)提供了利用兩種標(biāo)準(zhǔn)優(yōu)勢的靈活性。這對于需要高速數(shù)據(jù)傳輸和高效內(nèi)存共享的復(fù)雜AI系統(tǒng)尤其有益。
需要一次性設(shè)計(jì)所有高性能應(yīng)用的系統(tǒng)設(shè)計(jì)人員也可以從混合交換機(jī)中受益，這種交換機(jī)可以在單一設(shè)計(jì)中實(shí)現(xiàn)各種應(yīng)用。最先進(jìn)的混合交換機(jī)尤其如此，它可以提供高達(dá)2,048 GB/s的總帶寬和256個(gè)通道，為任何應(yīng)用提供前所未有的靈活性。
隨著現(xiàn)代工作負(fù)載變得越來越復(fù)雜，這類混合交換機(jī)的需求也在不斷增加。根據(jù)Grand View Research的一份報(bào)告，混合交換機(jī)市場（包括支持PCIe和CXL的設(shè)備）預(yù)計(jì)到2026年將達(dá)到22億美元，從2021年到2026年的復(fù)合年增長率為12.3%。這種增長是由數(shù)據(jù)中心和企業(yè)環(huán)境中對多功能高性能計(jì)算解決方案的需求推動的?？紤]以下可以從混合交換機(jī)策略中受益的苛刻應(yīng)用：
醫(yī)療分析：醫(yī)療保健領(lǐng)域的人工智能驅(qū)動診斷和預(yù)測分析依賴于快速的數(shù)據(jù)處理和高效的內(nèi)存利用率?；旌辖粨Q機(jī)可以提高這些應(yīng)用程序的速度和準(zhǔn)確性，從而改善患者的治療效果。
混合工作負(fù)載：混合工作負(fù)載共存的環(huán)境（例如同時(shí)支持HPC和AI推理任務(wù)的數(shù)據(jù)中心）可從混合交換機(jī)的多功能性中受益。它們可以根據(jù)需要動態(tài)利用PCIe 5.0和CXL 2.0，從而優(yōu)化不同類型應(yīng)用程序的性能。
基因組學(xué)研究：基因組學(xué)需要分析大量數(shù)據(jù)集以識別模式和突變?；旌辖粨Q機(jī)可以通過實(shí)現(xiàn)快速數(shù)據(jù)傳輸（通過PCIe 5.0）和處理單元之間的高效內(nèi)存共享（通過CXL 2.0）來加速這一過程，從而實(shí)現(xiàn)更快、更準(zhǔn)確的結(jié)果。
為什么要強(qiáng)制選擇互連？
決定使用PCIe 5.0、CXL 2.0還是混合交換機(jī)取決于您的AI應(yīng)用程序的具體要求。PCIe 5.0在需要高帶寬和低延遲數(shù)據(jù)傳輸?shù)膱鼍爸斜憩F(xiàn)出色，而CXL 2.0則是需要高效內(nèi)存共享和降低通信延遲的應(yīng)用程序的理想選擇?；旌辖粨Q機(jī)兼具兩全其美的優(yōu)勢，可以靈活地優(yōu)化復(fù)雜的AI系統(tǒng)以適應(yīng)各種用例。
隨著AI的不斷發(fā)展和演變，利用這些先進(jìn)技術(shù)對于滿足下一代應(yīng)用程序的需求、推動創(chuàng)新和提高各行業(yè)的性能至關(guān)重要。未來的現(xiàn)代系統(tǒng)可能會使用混合方法來支持所有應(yīng)用程序需求和變化，從而消除做出選擇的需要，從而避免當(dāng)今快速變化的應(yīng)用程序環(huán)境中的限制。
