存儲(chǔ)

近年來(lái),隨著AI應(yīng)用場(chǎng)景的爆發(fā)式增長(zhǎng),AI算法對(duì)算力的需求急劇上升,這一增速已顯著超越了摩爾定律所預(yù)測(cè)的硬件性能提升速度。傳統(tǒng)的計(jì)算芯片,在計(jì)算資源、處理時(shí)延以及功耗控制方面,逐漸顯現(xiàn)出難以滿足AI高并行計(jì)算需求的局限性。
在AI計(jì)算中,顯存的大小對(duì)處理大規(guī)模數(shù)據(jù)集、深度學(xué)習(xí)模型的訓(xùn)練和推理過(guò)程至關(guān)重要。足夠的顯存容量能夠確保顯卡在執(zhí)行AI任務(wù)時(shí)能夠同時(shí)存儲(chǔ)和操作所需的數(shù)據(jù),避免因?yàn)轱@存不足而導(dǎo)致的性能瓶頸。
最近,在機(jī)架內(nèi)部使用光互連的趨勢(shì)日益增長(zhǎng)。受人工智能的高帶寬、低延遲要求(因?yàn)槿斯ぶ悄苣P头植荚跀?shù)十個(gè)處理節(jié)點(diǎn)上)的推動(dòng),光互連正在幫助這些多節(jié)點(diǎn)系統(tǒng)盡可能快地運(yùn)行。速度一如既往地至關(guān)重要。
活動(dòng)推薦

本站熱榜

日排行
周排行
月排行
熱點(diǎn)資訊