英偉達(dá)、AMD、微軟等科技巨頭排隊(duì)購(gòu)買(mǎi)！HBM芯片有何魅力

科技巨頭排隊(duì)購(gòu)買(mǎi)

繼英偉達(dá)之后，全球多個(gè)科技巨頭都在競(jìng)購(gòu) SK 海力士的第五代高帶寬內(nèi)存 HBM3E。半導(dǎo)體行業(yè)內(nèi)部人士稱，各大科技巨頭已經(jīng)在向 SK 海力士請(qǐng)求獲取 HBM3E 樣本，包括 AMD、微軟和亞馬遜等等。

AMD 最近透露了其下一代 GPU MI300X，表示它將從 SK 海力士和三星電子獲得 HBM3 供應(yīng)。除英偉達(dá)和 AMD 之外，亞馬遜和微軟則是云服務(wù)領(lǐng)域的兩大巨頭，之前已引入生成式人工智能技術(shù)，并大幅追加了對(duì)于 AI 領(lǐng)域的投資。

報(bào)道稱，SK 海力士正忙于應(yīng)對(duì)客戶對(duì) HBM3E 樣品的大量請(qǐng)求，但滿足英偉達(dá)首先提出的樣品數(shù)量要求非常緊迫。

主流 AI 訓(xùn)練芯片 " 標(biāo)配 "

隨著 AI 技術(shù)不斷發(fā)展，AI 訓(xùn)練、推理所需計(jì)算量呈指數(shù)級(jí)增長(zhǎng)，2012 年至今計(jì)算量已擴(kuò)大 30 萬(wàn)倍。處理 AI 大模型的海量數(shù)據(jù)，需要寬廣的傳輸 " 高速公路 " 即帶寬來(lái)吞吐數(shù)據(jù)。今年 5 月，英偉達(dá)宣布推出大內(nèi)存 AI 超級(jí)計(jì)算機(jī) DGX GH200，該產(chǎn)品集成最多達(dá) 256 個(gè) GH200 超級(jí)芯片，是 DGX A100 的 32 倍。機(jī)構(gòu)推測(cè)，在同等算力下，HBM 存儲(chǔ)實(shí)際增量為 15.6 倍。

HBM 全稱 High Bandwidth Memory，即高帶寬內(nèi)存，是一種新興的 DRAM 解決方案。HBM 具有基于 TSV（硅通孔）和芯片堆疊技術(shù)的堆疊 DRAM 架構(gòu)，簡(jiǎn)而言之就是將內(nèi)存芯片堆疊到一個(gè)矩陣?yán)铮賹⑵涠褩Ｖ糜?CPU 或 GPU 的旁邊，通過(guò) uBump 和 Interposer （中介層，起互聯(lián)功能的硅片）實(shí)現(xiàn)超快速連接。Interposer 再通過(guò) Bump 和 Substrate（封裝基板）連通到 BALL，最后 BGA BALL 再連接到 PCB 上。

HBM 一定程度可以看作 GDDR 的替代品，其將 DDR 芯片堆疊在一起后和 GPU 封裝在一起，實(shí)現(xiàn)大容量，高位寬的 DDR 組合陣列。GDDR 作為獨(dú)立封裝，在 PCB 上圍繞在處理器的周?chē)?HBM 則排布在硅中階層（Siliconlnterposer）上并和 GPU 封裝在一起，面積一下子縮小了很多，舉個(gè)例子，HBM2 比 GDDR5 直接省了 94% 的表面積。并且，HBM 離 GPU 更近了，這樣數(shù)據(jù)傳輸也就更快了。

通俗來(lái)講，HBM 通過(guò)垂直連接多個(gè) DRAM，顯著提高數(shù)據(jù)處理速度。它們與 CPU、GPU 協(xié)同工作，可以極大提高服務(wù)器性能。其帶寬相比 DRAM 大幅提升，例如 SK 海力士的 HBM3 產(chǎn)品帶寬高達(dá) 819GB/s。同時(shí)，得益于 TSV 技術(shù)，HBM 的芯片面積較 GDDR 大幅節(jié)省。

AIGC 時(shí)代為 HBM 帶來(lái)的需求增量主要體現(xiàn)在兩方面：一方面，單顆 GPU 需要配置的單個(gè) HBM 的 Die 層數(shù)增加、HBM 個(gè)數(shù)增加；另一方面，大模型訓(xùn)練需求提升拉動(dòng)對(duì) AI 服務(wù)器和 AI 芯片需求，HBM 在 2023 年將需求明顯增加，價(jià)格也隨之提升。

TrendForce 集邦咨詢指出，為提升整體 AI 服務(wù)器的系統(tǒng)運(yùn)算效能，以及存儲(chǔ)器傳輸帶寬等，NVIDIA、AMD、Intel 等高端 AI 芯片中大多選擇搭載 HBM。

國(guó)盛證券指出，HBM 最適用于 AI 訓(xùn)練、推理的存儲(chǔ)芯片。受 AI 服務(wù)器增長(zhǎng)拉動(dòng)，HBM 需求有望在 2027 年增長(zhǎng)至超過(guò) 6000 萬(wàn)片。Omdia 則預(yù)計(jì)，2025 年 HBM 市場(chǎng)規(guī)?？蛇_(dá) 25 億美元。

HBM 或迎量?jī)r(jià)齊升

存儲(chǔ)行業(yè)當(dāng)前處于周期較為底部的位置，供給收窄有利于減緩價(jià)格下降。有業(yè)內(nèi)消息人士透露，由于人工智能服務(wù)器需求激增，高帶寬內(nèi)存（HBM）價(jià)格已開(kāi)始上漲。

而根據(jù) CFM 和 Trendforce，部分 DRAM 與 NAND 產(chǎn)品將于 2023 年三季度實(shí)現(xiàn)價(jià)格上漲，預(yù)計(jì)存儲(chǔ)行業(yè)有望在下半年迎來(lái)復(fù)蘇。集邦咨詢預(yù)計(jì)，目前英偉達(dá) A100、H100、AMD MI300，以及大型云服務(wù)提供商谷歌、AWS 等自主研發(fā)的 ASIC AI 服務(wù)器增長(zhǎng)需求較為強(qiáng)勁，預(yù)計(jì) 2023 年 AI 服務(wù)器出貨量（含 GPU、FPGA、ASIC 等）在 120 萬(wàn)臺(tái)，年增長(zhǎng)率近 38%。AI 芯片出貨量同步看漲，預(yù)計(jì)今年將增長(zhǎng) 50%。

目前，全球前三大存儲(chǔ)芯片制造商正將更多產(chǎn)能轉(zhuǎn)移至生產(chǎn) HBM，但由于調(diào)整產(chǎn)能需要時(shí)間，很難迅速增加 HBM 產(chǎn)量，預(yù)計(jì)未來(lái)兩年 HBM 供應(yīng)仍將緊張。另?yè)?jù)韓媒報(bào)道，三星計(jì)劃投資 1 萬(wàn)億韓元（約合 7.6 億美元）擴(kuò)產(chǎn) HBM，目標(biāo)明年底之前將 HBM 產(chǎn)能提高一倍，公司已下達(dá)主要設(shè)備訂單。

據(jù)悉，三星已收到 AMD 與英偉達(dá)的訂單，以增加 HBM 供應(yīng)。本次三星將在天安工廠展開(kāi)擴(kuò)產(chǎn)，該廠主要負(fù)責(zé)半導(dǎo)體封裝等后道工藝。HBM 主要是通過(guò)垂直堆疊多個(gè) DRAM 來(lái)提高數(shù)據(jù)處理速度，因此只有增加后段設(shè)備才能擴(kuò)大出貨量。三星計(jì)劃生產(chǎn)目前正在供應(yīng)的 HBM2 和 HBM2E 等產(chǎn)品，并計(jì)劃于下半年量產(chǎn) 8 層堆疊 HBM3 和 12 層 HBM3E。

值得一提的是，6 月已有報(bào)道指出，另一存儲(chǔ)芯片巨頭 SK 海力士已著手?jǐn)U建 HBM 產(chǎn)線，目標(biāo)將 HBM 產(chǎn)能翻倍。擴(kuò)產(chǎn)焦點(diǎn)在于 HBM3，SK 海力士正在準(zhǔn)備投資后段工藝設(shè)備，將擴(kuò)建封裝 HBM3 的利川工廠。預(yù)計(jì)到今年年末，后段工藝設(shè)備規(guī)模將增加近一倍。

實(shí)際上，2023 年開(kāi)年后三星、SK 海力士的 HBM 訂單快速增加，之前另有消息稱 HBM3 較 DRAM 價(jià)格上漲 5 倍。而業(yè)內(nèi)預(yù)計(jì)，明年三星與 SK 海力士都將進(jìn)一步擴(kuò)大投資規(guī)模。由于谷歌、蘋(píng)果、微軟等科技巨頭都在籌劃擴(kuò)大 AI 服務(wù)，HBM 需求自然水漲船高，" 若想滿足未來(lái)需求，三星、SK 海力士都必須將產(chǎn)能提高 10 倍以上。"

AI 之外市場(chǎng)同樣需求旺盛

AI 背后的算力需求推動(dòng)了 HBM 市場(chǎng)的快速成長(zhǎng)，而 AI 之外，HBM 憑借出色的傳輸性能，同樣廣受其他市場(chǎng)歡迎。

除了 AI 服務(wù)器，汽車(chē)也是 HBM 值得關(guān)注的應(yīng)用領(lǐng)域。汽車(chē)中的攝像頭數(shù)量所有這些攝像頭的數(shù)據(jù)速率和處理所有信息的速度都是天文數(shù)字，想要在車(chē)輛周?chē)焖賯鬏敶罅繑?shù)據(jù)，HBM 具有很大的帶寬優(yōu)勢(shì)。但是最新的 HBM3 目前還沒(méi)有取得汽車(chē)認(rèn)證，外加高昂的成本，所以遲遲還沒(méi)有 " 上車(chē) "。不過(guò)，Rambus 的高管曾提出 HBM 絕對(duì)會(huì)進(jìn)入汽車(chē)應(yīng)用領(lǐng)域。

AR 和 VR 也是 HBM 未來(lái)將發(fā)力的領(lǐng)域。因?yàn)?VR 和 AR 系統(tǒng)需要高分辨率的顯示器，這些顯示器需要更多的帶寬來(lái)在 GPU 和內(nèi)存之間傳輸數(shù)據(jù)。而且，VR 和 AR 也需要實(shí)時(shí)處理大量數(shù)據(jù)，這都需要 HBM 的超強(qiáng)帶寬來(lái)助力。

此外，智能手機(jī)、平板電腦、游戲機(jī)和可穿戴設(shè)備的需求也在不斷增長(zhǎng)，這些設(shè)備需要更先進(jìn)的內(nèi)存解決方案來(lái)支持其不斷增長(zhǎng)的計(jì)算需求，HBM 也有望在這些領(lǐng)域得到增長(zhǎng)。并且，5G 和物聯(lián)網(wǎng)（loT ) 等新技術(shù)的出現(xiàn)也進(jìn)一步推動(dòng)了對(duì) HBM 的需求。

存儲(chǔ)市場(chǎng)原本就是一個(gè)高度集中的半導(dǎo)體領(lǐng)域，而 HBM 作為 DRAM 的一種，其市場(chǎng)也被三巨頭瓜分。目前技術(shù)走在最前面的是 SK 海力士，并且它也擁有第一的市占率，高達(dá) 50%，緊隨其后的是三星，市占率約 40%，美光約占 10%。預(yù)計(jì)到 2023 年，SK 海力士市占率有望提升至 53%，而三星、美光市占率分別為 38% 及 9%。

下游廠商主要是 CPU/GPU 廠商，如英特爾、英偉達(dá)以及 AMD。因?yàn)?HBM 是與 GPU 封裝在一起的，所以 HBM 的封裝基本也由晶圓代工廠一同包攬完成，而晶圓代工廠商包括、格芯等也在發(fā)力 HBM 相關(guān)技術(shù)。

總的來(lái)說(shuō)，HBM 的競(jìng)爭(zhēng)還是在 SK 海力士、三星以及美光之間展開(kāi)。2013 年 SK 海力士將 TSV 技術(shù)應(yīng)用于 DRAM，在業(yè)界首次成功研發(fā)出第一代 HBM 芯片。此后，SK 海力士相繼推出 HBM2、HBM2E、HBM3 數(shù)代產(chǎn)品。據(jù)悉，SK 海力士正在研發(fā) HBM4，預(yù)計(jì)新一代產(chǎn)品將能夠更廣泛地應(yīng)用于高性能數(shù)據(jù)中心、超級(jí)計(jì)算機(jī)和 AI 等領(lǐng)域。SK 海力士 CFO 金祐賢表示，公司正關(guān)注著市場(chǎng)上出現(xiàn)以 AI 為基礎(chǔ)的新服務(wù)器替換存儲(chǔ)器需求的積極信號(hào)。公司計(jì)劃持續(xù)投資 DDR5/LPDDR5、HBM3 等主力產(chǎn)品的量產(chǎn)和未來(lái)高成長(zhǎng)領(lǐng)域。

三星電子雖然在 HBM 的開(kāi)發(fā)上落后一步，但也在尋找新的突破口。據(jù)悉，三星電子正在開(kāi)發(fā)集成 AI 處理器新一代存內(nèi)計(jì)算芯片 HBM-PIM。北京大學(xué)信息科學(xué)技術(shù)學(xué)院微納電子學(xué)系副教授葉樂(lè)表示，存內(nèi)計(jì)算芯片是將 AI 引擎引入存儲(chǔ)庫(kù)，將處理操作轉(zhuǎn)移到 HBM 本身，將有效加大數(shù)據(jù)傳輸帶寬，提高內(nèi)存的處理速度。存內(nèi)計(jì)算技術(shù)正在實(shí)現(xiàn)產(chǎn)品化。目前基于 SRAM 的存內(nèi)計(jì)算，已經(jīng)進(jìn)入到產(chǎn)品化的前夜，DRAM 存內(nèi)計(jì)算適用于大算力 AI 芯片，因此還需要解決其他一系列的技術(shù)難題。

美光科技則走得較慢，于 2020 年 7 月宣布大規(guī)模量產(chǎn) HBM2E，HBM3 也仍作為其產(chǎn)品線在持續(xù)研發(fā)之中。

產(chǎn)業(yè)鏈國(guó)產(chǎn)化的機(jī)會(huì)

誠(chéng)然，HBM 的市場(chǎng)基本被海外巨頭所占據(jù)，但芯片儲(chǔ)存的自主可控仍是當(dāng)下產(chǎn)業(yè)發(fā)展的重要方向，而從原材料、配件到封裝，國(guó)產(chǎn)半導(dǎo)體產(chǎn)業(yè)鏈同樣能夠在 HBM 生態(tài)找到屬于自己的位置。

在原材料供應(yīng)方面，國(guó)內(nèi)雅克科技主要致力于電子半導(dǎo)體材料，深冷復(fù)合材料以及塑料助劑材料研發(fā)和生產(chǎn)，本身就是 SK 海力士、LG 顯示的核心供應(yīng)商，并進(jìn)入合肥長(zhǎng)鑫、長(zhǎng)江存儲(chǔ)、京東方等國(guó)內(nèi)龍頭客戶，旗下 UPChemical 是全球領(lǐng)先的半導(dǎo)體級(jí) SOD 和前驅(qū)體產(chǎn)品供應(yīng)商，同樣是 SK 海力士的核心供應(yīng)商，有望充分分享 HBM 市場(chǎng)成長(zhǎng)紅利。而 HBM 屬于先進(jìn)封裝的一種，因疊層厚度較高因此需要用特殊的顆粒塑封料封裝（GMC），全球真正 GMC 技術(shù)只有 2 家日系公司（S 公司和 R 公司）掌握，國(guó)內(nèi)企業(yè)華海誠(chéng)科同樣在該領(lǐng)域有所布局。

除原材料供應(yīng)外，通富微電、國(guó)芯科技等企業(yè)則在封裝領(lǐng)域具有一定優(yōu)勢(shì)。此外，HBM 中先進(jìn) DRAM 加工工藝和 TSV 加工工藝中是必不可少的工藝環(huán)節(jié)，國(guó)內(nèi)中微公司、拓荊科技等企業(yè)同樣有所布局。

隨著 HBM 產(chǎn)業(yè)鏈國(guó)產(chǎn)化熱度持續(xù)發(fā)酵下，相信 HBM 國(guó)產(chǎn)化也只是時(shí)間問(wèn)題。