本文來自微信公眾號“半導(dǎo)體行業(yè)觀察”，作者/編輯部。
昨日，英偉達(dá)發(fā)布了更新后的H200 GPU。該芯片的最大改變來自使用了HBM3e。其帶來的提升從半導(dǎo)體行業(yè)觀察昨日的文章《英偉達(dá)H200突然發(fā)布：容量翻倍，帶寬狂飆》中可以一覽無遺。
然而，據(jù)韓媒報道，在英偉達(dá)發(fā)布新GPU之后，一場圍繞HBM的爭奪戰(zhàn)已悄然打響。
韓國雙雄，爭霸HBM
韓國經(jīng)濟(jì)日報在報道中指出，隨著美國無晶圓廠芯片設(shè)計商英偉達(dá)公司周一推出其新的人工智能芯片組H200 Tensor Core GPU，三星電子公司和SK海力士公司等韓國存儲芯片制造商對其高帶寬內(nèi)存(HBM)銷售的快速增長寄予厚望。
報道表示。隨著人工智能芯片競爭的加劇，全球最大的兩家存儲芯片制造商三星和SK海力士正準(zhǔn)備將HBM產(chǎn)量提高至2.5倍。
三星存儲芯片業(yè)務(wù)副總裁Kim Jae-joon在10月份表示，三星電子還完成了與主要客戶關(guān)于明年HBM供應(yīng)的談判。
據(jù)了解，三星正在向AMD提供HBM3和交鑰匙封裝服務(wù)。據(jù)業(yè)內(nèi)人士透露，這家全球頂級內(nèi)存芯片制造商還在8月下旬通過了Nvidia A100和H100的HBM3質(zhì)量驗證；目前尚未正式確認(rèn)是否向Nvidia供應(yīng)HBM3。
僅次于三星的全球第二大內(nèi)存芯片制造商SK海力士則早于今年8月向Nvidia提供了HBM3E的樣品，即HBM3的擴(kuò)展版本。而SK海力士正在向AMD供應(yīng)HBM3。
SK海力士DRAM營銷副總裁Park Myoung-soo也強(qiáng)調(diào)：“公司明年第四代HBM3產(chǎn)品和第五代HBM3E產(chǎn)品的供應(yīng)量都在增加，并已完全售空?，F(xiàn)在更是與客戶和合作伙伴就2025年HBM產(chǎn)量進(jìn)行生產(chǎn)和供應(yīng)的討論也在進(jìn)行中。”
除了韓國雙雄以外，全球第三大DRAM公司美光也將從2024年開始積極瞄準(zhǔn)高帶寬內(nèi)存(HBM)市場。市場專家預(yù)測，三星電子、SK海力士和美光之間爭奪更大市場份額的競爭將會加劇。
據(jù)業(yè)內(nèi)人士透露，美光在上季度的財報電話會議上表示，它已經(jīng)開發(fā)出了業(yè)界最好的HBM3E產(chǎn)品，并將于2024年初開始生產(chǎn)，并創(chuàng)下有意義的銷量。HBM3E是HBM的下一代版本，被認(rèn)為是比當(dāng)前市場領(lǐng)先產(chǎn)品HBM2和HBM3更高附加值的產(chǎn)品。
美光正在向包括Nvidia在內(nèi)的主要企業(yè)HBM客戶發(fā)送HBM3E樣品，讓他們測試其性能。Nvidia一直在向OpenAI、谷歌、微軟等公司提供AI加速器，其中HBM封裝在其圖形處理單元(GPU)中。人工智能加速器是用于推進(jìn)生成式人工智能服務(wù)的服務(wù)器的關(guān)鍵組件。
目前，HBM市場由三星電子和SK海力士占據(jù)主導(dǎo)地位。市場研究公司TrendForce的數(shù)據(jù)顯示，三星和SK海力士預(yù)計將分別占據(jù)HBM 46%和49%的市場份額，美光將在2023年占據(jù)其余市場份額。
在這種情況下，美光明年愿意瞄準(zhǔn)下一代HBM市場，預(yù)計將對三星電子和SK海力士產(chǎn)生負(fù)面影響。這是因為美光的HBM供應(yīng)可能會緩解HBM短缺問題，并加劇HBM制造商之間的價格競爭。鑒于美光是一家美國公司，分析人士表示，英偉達(dá)和AMD等大公司可能會青睞與美光同國籍的產(chǎn)品。“隨著美光宣布積極進(jìn)軍市場，競爭很可能會加劇，”一位半導(dǎo)體業(yè)內(nèi)人士表示。
美光則透露，英偉達(dá)有望在2024年使用其HBM3E。
兩大巨頭，各顯神通
回看HBM的發(fā)展，資料顯示，該技術(shù)從13年開始出現(xiàn)在半導(dǎo)體市場，且已經(jīng)擴(kuò)展到第一代(HBM)、第二代(HBM2)、第三代(HBM2E)，目前是第四代(HBM3)。
在2021年10月，SK海力士在業(yè)界首次成功開發(fā)HBM3，通過將其獨家供應(yīng)給在AI用GPU上擁有全球領(lǐng)先份額的英偉達(dá)，從而獲得HBM市場的領(lǐng)先份額。最近他們還開發(fā)了第五代HBM3E，預(yù)計從24年上半年開始量產(chǎn)，2026年計劃第六代HBM4。
報道支出，SK海力士自從HBM3獲得市場領(lǐng)先份額以來，在不斷擴(kuò)大產(chǎn)能，以增強(qiáng)HBM3E等下一代產(chǎn)品的量產(chǎn)能力。在對HBM最大客戶英偉達(dá)繼HBM3獨家供應(yīng)之后，獨家供應(yīng)至第五代HBM3E，確保其在HBM市場的優(yōu)勢。
SK海力士于2023年6月開始HBM3E的樣品出貨，其擁有廣泛領(lǐng)先的性能，能滿足開發(fā)者需求。首先，該芯片每秒最多可以處理1.15TB(兆字節(jié))以上的數(shù)據(jù)。與HBM3相比，處理速度提高了1.3倍，容量提高了1.4倍；另外，HBM3在8層層疊中為16 GB，12層層疊為24 GB封裝，HBM3E在8層中具有24 GB容量，今后還將開發(fā)12層層疊的36 GB的封裝。
SK海力士的HBM3E更是應(yīng)用了“Advanced MR-MUF”的最新封裝技術(shù)，產(chǎn)品的熱釋放性能比以往提高了10%。該封裝技術(shù)從應(yīng)用到HBM3的現(xiàn)有MR-MUF技術(shù)補(bǔ)充了短處——引入了克服芯片翹曲的新技術(shù)，并用新的保護(hù)材料改善了散熱性。
在SK海力士高歌猛進(jìn)的同時，三星電子已完成HBM3的量產(chǎn)準(zhǔn)備。據(jù)透露，他們計劃2023年下半年開始進(jìn)入量產(chǎn)階段。
眾所周知，三星不僅是一個名列前茅的存儲供應(yīng)商，也是一個領(lǐng)先的在晶圓代工廠，同時也有封裝業(yè)務(wù)。
為此這種情況下，三星電子不僅利用HBM的內(nèi)存，還充分利用自己公司的封裝技術(shù)推動了一起提供到基金業(yè)務(wù)的周轉(zhuǎn)解決方案。對于SK海力士和美光來說，這是一種將這樣的優(yōu)勢攻克為武器的戰(zhàn)略，因為他們不擁封裝的技術(shù)。
對于三星電子來說，“2.5D封裝技術(shù)”在大大擴(kuò)大HBM3供應(yīng)量方面的重要性越來越高。具體來說，就是他們推出的一項被稱為“I-Cube”(I-Cube)的技術(shù)。根據(jù)HBM模塊的搭載數(shù)，發(fā)展為I-Cube 2(搭載了2個HBM)等。
根據(jù)三星的規(guī)劃，到2024年4~6月期間，公司講量產(chǎn)I-Cube 4，7~9月期間，公司則計劃批量生產(chǎn)I-Cube 8。三星電子稱，在將該技術(shù)與HBM一起提供，可使供應(yīng)量大大擴(kuò)大。
正如大家所看到，在HBM中，產(chǎn)能往往成為瓶頸，而三星電子的一系列解決方案有望解決這些問題。目前英偉達(dá)和AMD等采用臺積電的“CoWoS”技術(shù)，但該技術(shù)也沒有充分增加生產(chǎn)容量。
基于這種情況，三星電子向英偉達(dá)提出了封裝服務(wù)和HBM3供應(yīng)之前的周轉(zhuǎn)關(guān)鍵服務(wù)，但會發(fā)生什么還是未知數(shù)。
雖然可以用轉(zhuǎn)向鑰匙制作產(chǎn)品是其優(yōu)點，但是從在HBM3中用SK海力士的MUF技術(shù)獲得市場領(lǐng)先份額的狀況來看，利用三星電子的HBM3的風(fēng)險很高，其他的危險因素也很多。
美光和臺積電，會成為X因素？
如前文所說，美光在HBM市場沒有多少影響力。但他們也正在發(fā)力。在他們看來，通過技術(shù)進(jìn)步帶來的產(chǎn)品性能提升，會是公司發(fā)力的根本助推器。
據(jù)了解。美光的24 GB HBM3E模塊基于八個堆疊24Gbit內(nèi)存芯片制造。而改芯片采用該公司的1β(1-beta)制造工藝制造。領(lǐng)先的技術(shù)讓這些模塊的數(shù)據(jù)速率高達(dá)9.2 GT/秒，使每個堆棧的峰值帶寬達(dá)到1.2 TB/s，比現(xiàn)有最快的HBM3模塊提高了44%。與此同時，該公司不會停止其基于8-Hi 24 Gbit的HBM3E組件。他們宣布，繼開始量產(chǎn)8-Hi 24GB堆棧后，計劃于2024年推出超大容量36 GB 12-Hi HBM3E堆棧。
美光首席執(zhí)行官補(bǔ)充道：“我們預(yù)計將于2024年初開始HBM3E的生產(chǎn)，并在2024財年實現(xiàn)可觀的收入。”
在美光來勢洶洶的同時，臺積電也宣布將CoWoS產(chǎn)能擴(kuò)大兩倍(每月1萬6000張)。這就意味著三星電子要想成功完成上面討論的提案，就必須在臺積電完成增設(shè)的準(zhǔn)備工作之前按照英偉達(dá)要求的質(zhì)量和規(guī)格成功量產(chǎn)。目前很難期待比TSMC的CoWoS更高的性能，對但三星電子來說這是最后的機(jī)會一決高下。
同時，由于三星尚未確定與英偉達(dá)的合同，他們在與SK海尼克斯的競爭中苦戰(zhàn)仍在繼續(xù)。
HBM作為今后AI時代的必備材料，在最近記憶半導(dǎo)體的不景氣中也有很大的收益性。雖然在內(nèi)存市場中比例還不大，但據(jù)說盈利能力是其他DRAM的5-10倍。尤其是SK海力士在2023年7-9月當(dāng)季DRAM業(yè)務(wù)兩個季度來首次轉(zhuǎn)為盈余，由此發(fā)揮了HBM的威力。HBM市場預(yù)計年均最大將擴(kuò)大至80%。
由此可見。今后HBM的影響力將進(jìn)一步加大。
