本文來自微信公眾號“電子發(fā)燒友網(wǎng)”，作者/李彎彎。
近日消息，隨著ChatGPT的熱潮，華為昇騰AI服務(wù)器、拓維信息兆瀚RA5900-A系列AI訓(xùn)練服務(wù)器等詢單量及預(yù)定量爆發(fā)式增長。
AI服務(wù)器通常搭載GPU、FPGA、ASIC等加速芯片，利用CPU與加速芯片的組合可以滿足高吞吐量互聯(lián)的需求，為自然語言處理、計(jì)算機(jī)視覺、機(jī)器學(xué)習(xí)等AI應(yīng)用場景提供強(qiáng)大的算力支持，支撐AI算法訓(xùn)練和推理。
AI服務(wù)器與普通服務(wù)器的區(qū)別
服務(wù)器是一種高性能計(jì)算機(jī)，作為網(wǎng)絡(luò)的節(jié)點(diǎn)，存儲、處理網(wǎng)絡(luò)上80%的數(shù)據(jù)、信息，因此也被稱為網(wǎng)絡(luò)的靈魂。普通服務(wù)器是以CPU為計(jì)算能力的提供者，采用串行架構(gòu)，擅長邏輯計(jì)算和浮點(diǎn)計(jì)算。由于邏輯判斷需要大量的分支跳轉(zhuǎn)，使得CPU的結(jié)構(gòu)復(fù)雜，計(jì)算能力的提高主要靠堆積更多的核心數(shù)來實(shí)現(xiàn)。
在大數(shù)據(jù)、云計(jì)算、人工智能、元宇宙、數(shù)據(jù)孿生和物聯(lián)網(wǎng)等網(wǎng)絡(luò)技術(shù)的應(yīng)用中，互聯(lián)網(wǎng)上的數(shù)據(jù)呈現(xiàn)出幾何倍數(shù)的增長，這對以CPU為主要計(jì)算能力來源的傳統(tǒng)服務(wù)是巨大的考驗(yàn)。目前，CPU的制程工藝和單個CPU的核心數(shù)接近極限，但數(shù)據(jù)的增加仍在繼續(xù)，因此有必要提高服務(wù)器的數(shù)據(jù)處理能力。在這種環(huán)境下，AI服務(wù)器應(yīng)運(yùn)而生。
AI服務(wù)器與普通服務(wù)器的區(qū)別：在服務(wù)器的硬件架構(gòu)方面，AI服務(wù)器是異構(gòu)服務(wù)器，可以根據(jù)應(yīng)用范圍采用不同的組合方式，如CPU+GPU、CPU+TPU、CPU+其他加速卡等。與普通服務(wù)器相比，內(nèi)存、存儲、網(wǎng)絡(luò)沒有區(qū)別，主要是大數(shù)據(jù)、云計(jì)算、人工智能等方面需要更多的內(nèi)存，滿足各種數(shù)據(jù)的收集整理。
普通GPU服務(wù)器一般是單卡或者雙卡，AI服務(wù)器需要承擔(dān)大量計(jì)算，一般配置四塊以上的GPU卡，甚至搭建一個AI服務(wù)器集群；AI服務(wù)器需要獨(dú)特的設(shè)計(jì)，由于AI服務(wù)器有多個GPU卡，需要對系統(tǒng)結(jié)構(gòu)、散熱和拓?fù)溥M(jìn)行專門設(shè)計(jì)，以滿足AI服務(wù)器長期穩(wěn)定運(yùn)行的要求。
目前市場上的AI服務(wù)器普遍采用CPU+GPU，由于GPU和CPU形式不同所以AI服務(wù)器采用并行計(jì)算模式，善于梳理圖形渲染、機(jī)器學(xué)習(xí)等密集數(shù)據(jù)操作。在GPU上，NVIDIA優(yōu)勢明顯，GPU單卡核心數(shù)可達(dá)近千個，如配置16張NVIDIA Tesla V100 Tensor Core 32GB GPUs核心數(shù)可超過10240個，計(jì)算性能高達(dá)每秒2千萬億次。而且經(jīng)過近幾年市場的發(fā)展，也證實(shí)了CPU+GPU異構(gòu)服務(wù)器在當(dāng)前環(huán)境下確實(shí)有很大的發(fā)展空間。
AI服務(wù)器市場現(xiàn)狀及主要玩家
近幾年，中國市場的AI服務(wù)器出貨量和滲透率都在提升。未來預(yù)計(jì)隨著AI模型訓(xùn)練和應(yīng)用的興起，需要支持AI功能的服務(wù)器將持續(xù)增加。IDC預(yù)計(jì)，中國AI服務(wù)器2021年的市場規(guī)模為57億美元，同比增長61.6%，到2025年市場規(guī)模將增長到109億美元，CAGR為17.5%。
根據(jù)其此前發(fā)布的《中國加速計(jì)算市場（2021年下半年）跟蹤報(bào)告》，2021年全年中國AI服務(wù)器市場規(guī)模達(dá)350.3億元，同比增長68.6%。浪潮信息、寧暢、新華三、華為、安擎位居前五，占據(jù)了82.6%的市場份額。其中，浪潮AI服務(wù)器市場占有率達(dá)52.4%。
近日，浪潮信息在某平臺上表示，公司在人工智能服務(wù)器領(lǐng)域的市占率位居全球AI服務(wù)器市場第一，在ChatGPT和AIGC相關(guān)方向上已有布局相關(guān)業(yè)務(wù)。日前消息，淮海智算中心攜手浪潮信息進(jìn)行了超大規(guī)模參數(shù)AI大模型訓(xùn)練性能測試，實(shí)測數(shù)據(jù)表明，千億參數(shù)規(guī)模的自然語言AI單體大模型在淮海智算中心計(jì)算平臺上的訓(xùn)練算力效率達(dá)53.5%，刷新了業(yè)內(nèi)AI大模型訓(xùn)練算力效率新高。
寧暢在AI服務(wù)器方面已經(jīng)發(fā)布多款產(chǎn)品，比如X620 G50，這是一款基于第四代英特爾至強(qiáng)可擴(kuò)展處理器的高端2U機(jī)架式服務(wù)器?？筛鶕?jù)業(yè)務(wù)需求對資源進(jìn)行靈活配置，滿足各種各行業(yè)應(yīng)用需求。完美適用于機(jī)器學(xué)習(xí)、AI推理、云計(jì)算、高性能計(jì)算、云存儲、大數(shù)據(jù)、虛擬化、辦公系統(tǒng)等應(yīng)用場景。
還有上文提到的拓維信息，早在ChatGPT爆發(fā)之前，就已布局了一系列人工智能產(chǎn)品。該公司表示，旗下兆瀚智能計(jì)算產(chǎn)品包括AI推理、AI訓(xùn)練、AI集群等，具有超強(qiáng)AI算力、更優(yōu)AI能效、最佳AI拓展等產(chǎn)品特點(diǎn)，在行業(yè)內(nèi)有領(lǐng)先優(yōu)勢。
未來，拓維信息將持續(xù)重點(diǎn)關(guān)注先進(jìn)計(jì)算、人工智能等前沿技術(shù)領(lǐng)域，加大在人工智能產(chǎn)業(yè)的規(guī)劃布局及基礎(chǔ)軟硬件產(chǎn)業(yè)投入，充分發(fā)揮自身在人工智能領(lǐng)域的影響力。通過與華為的全方位深入合作，推出基于昇騰處理器的兆瀚AI產(chǎn)品，努力構(gòu)筑業(yè)界超強(qiáng)AI算力平臺。
中科曙光在AI服務(wù)器上也有布局。據(jù)介紹，中科曙光已推出“全浸沒式液冷AI訓(xùn)練專用服務(wù)器”，與百度、復(fù)旦大學(xué)等企業(yè)及科研院所深度合作，形成了諸多基于AI模型的聯(lián)合解決方案，支持了國內(nèi)多個千億級以上參數(shù)規(guī)模的AI大模型訓(xùn)練，攻克類腦智能、基因技術(shù)、自動駕駛等多個前沿領(lǐng)域AI難題。
此外還有中國長城、神州數(shù)碼、廣電運(yùn)通等。中國長城在芯片、整機(jī)、服務(wù)器、網(wǎng)絡(luò)交換機(jī)、路由器、工業(yè)控制系統(tǒng)、容災(zāi)備份產(chǎn)品等自主安全產(chǎn)品譜系逐步成為相關(guān)市場的主導(dǎo)產(chǎn)品，AI服務(wù)器已實(shí)現(xiàn)量產(chǎn)。神州數(shù)碼之前推出了神州鯤泰人工智能推理服務(wù)器，以“鯤鵬+昇騰”為核心，可提供128個處理核心的算力，同時最大可支持8張華為Atlas 300推理卡，提供256GB推理緩存，以及最大704 TOPS INT8的AI算力。
小結(jié)
過去幾年人工智能發(fā)展迅速，作為算力支撐的AI服務(wù)器市場在不斷增加。如今在ChatGPT爆火下，人工智能訓(xùn)練和推理尋求將持續(xù)擴(kuò)大，預(yù)計(jì)未來AI服務(wù)器市場規(guī)模將繼續(xù)保持高速增長趨勢。而在其中布局已久的浪潮、中科曙光、寧暢、拓維信息等無疑將更具優(yōu)勢。
