隨著各地區(qū)紛紛開始建設(shè)超算智算資源,如何提高這些計算資源的利用率也成了關(guān)鍵。而訓(xùn)練大模型恰好需要用到如此龐大的計算資源,也有助于為各行各業(yè)提供可用大模型應(yīng)用,由此看來,未來超算上大模型訓(xùn)練的場景也會越來越普遍。
近年來,許多芯片企業(yè)破產(chǎn)。去年高達(dá)上萬家芯片公司關(guān)門大吉,平均每天倒31家。而今年依舊慘不忍睹,中國IP設(shè)計新星華夏芯破產(chǎn)清算,礪算科技也因燒光3億人民幣,去年6月爆發(fā)欠薪,加上美元基金撤離,險些在流片前夕破產(chǎn)。
盡管微云行業(yè)發(fā)展充滿活力,但其未來前景仍然存在一定的不確定性。微云供應(yīng)商保持業(yè)務(wù)增長取決于能否確保GPU的持續(xù)供應(yīng)以及維持具有競爭力的價格。此外,隨著全球主要云計算提供商投資于定制的AI處理硬件,市場競爭壓力可能會進(jìn)一步加劇,大型云計算提供商將通過降低價格和提升服務(wù)質(zhì)量以保持競爭力。
近日,《國務(wù)院2024年度立法工作計劃》對外印發(fā)。其中,在本次擬提請全國人大常委會審議的法律案(21件)內(nèi),對外貿(mào)易法修訂草案(商務(wù)部起草)涉及到了《電信法草案》《人工智能法草案》《廣播電視法草案》。
生成式人工智能不僅改變了組織開展業(yè)務(wù)的方式,還改變了它們消耗計算資源的方式。這些大型語言模型(LLM)以及數(shù)字孿生、擴(kuò)展現(xiàn)實(shí)和元宇宙等其他人工智能工具,需要大量圖形處理單元(GPU)來訓(xùn)練數(shù)據(jù)集或處理圖形密集型任務(wù)。
通用CPU和GPU服務(wù)平臺在功耗和散熱受限的終端上的運(yùn)用,其差異性需求難以應(yīng)對AI用例嚴(yán)苛且多樣化的計算要求。