編者按：本文來(lái)自微信公眾號(hào) 半導(dǎo)體行業(yè)觀察（ID：icbank），作者：邵逸琦，創(chuàng)業(yè)邦經(jīng)授權(quán)轉(zhuǎn)載。

對(duì)于內(nèi)存行業(yè)來(lái)說(shuō)，HBM已是萬(wàn)眾矚目的焦點(diǎn)。

在過(guò)去兩年幾家大廠普遍虧損的情況下，只有HBM市場(chǎng)在不斷走高，成為了少數(shù)能拿得出手的業(yè)績(jī)，尤其像海力士這樣手握英偉達(dá)H100中HBM供貨權(quán)的廠商，成為了AI浪潮里掙得最多的廠商之一。

盡管距離第一款HBM 3E發(fā)布只有一年左右的時(shí)間，但是各大廠商已經(jīng)把HBM4提上了日程，尤其是兩家韓廠——SK海力士和三星，它們正在圍繞下一代HBM4內(nèi)存半導(dǎo)體的量產(chǎn)時(shí)間展開(kāi)激烈的競(jìng)爭(zhēng)。

兩家公司計(jì)劃在10月和11月完成基本設(shè)計(jì)，并進(jìn)入量產(chǎn)階段，即所謂的“流片”（Tape Out），這一階段也意味著內(nèi)存芯片已經(jīng)具備完整的功能。兩家公司都等著為英偉達(dá)基于 Rubin 的 AI 芯片供應(yīng)HBM 4，從而在未來(lái)市場(chǎng)中占據(jù)主導(dǎo)權(quán)。

是SK海力士繼續(xù)保持主導(dǎo)優(yōu)勢(shì)？還是三星重振雄風(fēng)？

路線之爭(zhēng)

首先我們先來(lái)簡(jiǎn)單了解下HBM 4的技術(shù)規(guī)格，其相比HBM3E，提供了雙倍的通道寬度，即2048位對(duì)1024位，數(shù)據(jù)傳輸速度和性能都有了顯著提升。HBM3E堆疊了12個(gè)DRAM芯片，支持24GB和32GB的容量，而HBM4可以堆疊16個(gè)DRAM芯片，支持64GB容量。

根據(jù) JEDEC 的說(shuō)法，HBM4 旨在提高數(shù)據(jù)處理速度，同時(shí)保留更高的帶寬、更低的功耗和更大的單個(gè)芯片或堆棧容量等關(guān)鍵特性，這些特性對(duì)于需要高效管理大型數(shù)據(jù)集和復(fù)雜計(jì)算的應(yīng)用（如生成式人工智能、高性能計(jì)算、高端顯卡和服務(wù)器）來(lái)說(shuō)至關(guān)重要。

根據(jù) JEDEC 的初步規(guī)格，與 HBM3 相比，HBM4 預(yù)計(jì) “每個(gè)堆棧的通道數(shù)翻倍”，這表明利用率更高，從而顯著提升性能。另外值得注意的是，為了支持設(shè)備兼容性，新標(biāo)準(zhǔn)確保單個(gè)控制器可同時(shí)支持 HBM3 和 HBM4。

JEDEC 指出，HBM4 將指定 24 Gb 和 32 Gb 層，支持從 4 hi到 16 hi的 TSV 堆疊。該委員會(huì)已初步同意最高 6.4 Gbps 的速度，并正在討論更高的頻率。

有趣的是，JEDEC 并未明確說(shuō)明 HBM4 如何將存儲(chǔ)器和邏輯半導(dǎo)體集成到單個(gè)封裝中，而這正是業(yè)界急于解決的主要挑戰(zhàn)之一。

圖源英偉達(dá)

此前我們討論過(guò)，HBM每一代的標(biāo)準(zhǔn)，本質(zhì)上是技術(shù)路線之爭(zhēng)，誰(shuí)的標(biāo)準(zhǔn)被采納，誰(shuí)就能在市場(chǎng)中獲得領(lǐng)先地位，因而海力士、三星和美光圍繞著標(biāo)準(zhǔn)展開(kāi)一場(chǎng)激烈的交鋒。

海力士和三星作為韓廠，最初就是存著將標(biāo)準(zhǔn)化為己用的目的：SK海力士當(dāng)初研究 HBM 與邏輯處理器直接連接的概念，其涉及內(nèi)存和邏輯制造商共同設(shè)計(jì)芯片，然后由臺(tái)積電等晶圓代工廠制造，而三星也是如此，由于它同時(shí)具備晶圓代工和封裝業(yè)務(wù)，在這方面顯然具備更多優(yōu)勢(shì)。

美光當(dāng)初并不打算把 HBM 和邏輯芯片整合到一個(gè)芯片中，當(dāng)初它想宣傳的是，大家可以通過(guò) HBM-GPU 這樣的組合芯片獲得更快的內(nèi)存訪問(wèn)速度，但是單獨(dú)依賴(lài)某一家的芯片就意味著更大風(fēng)險(xiǎn)，也就是不能讓韓廠的標(biāo)準(zhǔn)成為現(xiàn)實(shí)。

美國(guó)媒體此前宣稱(chēng)，隨著機(jī)器學(xué)習(xí)訓(xùn)練模型的增大和訓(xùn)練時(shí)間的延長(zhǎng)，通過(guò)加快內(nèi)存訪問(wèn)速度和提高每個(gè) GPU 內(nèi)存容量來(lái)縮短運(yùn)行時(shí)間的壓力也將隨之增加，而為了獲得鎖定的 HBM-GPU 組合芯片設(shè)計(jì)（盡管具有更好的速度和容量）而放棄標(biāo)準(zhǔn)化 DRAM 的競(jìng)爭(zhēng)供應(yīng)優(yōu)勢(shì)，可能不是正確的前進(jìn)方式。

但韓媒的論調(diào)恰恰相反，多年以來(lái)，韓國(guó)非內(nèi)存半導(dǎo)體一直難成氣候，如今HBM帶來(lái)千載難逢的機(jī)會(huì)，自然不能錯(cuò)過(guò)，他們表示，除了定制的DRAM 代工廠之外，可能還會(huì)出現(xiàn)一個(gè)更大的世界，即使是英偉達(dá)這樣的巨頭也將不得不在三星和 SK 海力士制造的板材上進(jìn)行設(shè)計(jì)。

當(dāng)然，如今看來(lái)，手握技術(shù)和市場(chǎng)的韓廠，終有一日會(huì)讓自己的路線變?yōu)镠BM4事實(shí)上的標(biāo)準(zhǔn)。美光當(dāng)初力推HMC，本意也是想在數(shù)據(jù)中心內(nèi)存上占據(jù)領(lǐng)先地位，走出傳統(tǒng)的半導(dǎo)體周期，但最終卻走向失敗，如今的它很清楚海力士力推定制化內(nèi)存的影響，試圖加以阻止，但本就落后了它恐怕也只能跟著吃一點(diǎn)尾氣了。

兩大韓廠，強(qiáng)強(qiáng)對(duì)決

今年8 月 19 日，SK 海力士副總裁柳成洙出席了在首爾舉辦的“SK 利川論壇 2024”。在論壇的第二場(chǎng)會(huì)議上，柳成洙公布了 SK 海力士的雄心勃勃的戰(zhàn)略，即開(kāi)發(fā)一款性能比現(xiàn)有 HBM 高出 30 倍的產(chǎn)品。

柳成洙表示：“我們的目標(biāo)是開(kāi)發(fā)性能比當(dāng)前 HBM 提高 20 到 30 倍的產(chǎn)品，重點(diǎn)是推出差異化產(chǎn)品?！彼麖?qiáng)調(diào)，公司專(zhuān)注于通過(guò)先進(jìn)的執(zhí)行能力，以面向 AI 的內(nèi)存解決方案來(lái)應(yīng)對(duì)大眾市場(chǎng)。這一戰(zhàn)略至關(guān)重要，因?yàn)樵?AI 技術(shù)的快速發(fā)展推動(dòng)下，對(duì)高性能內(nèi)存的需求不斷增長(zhǎng)。

柳成洙強(qiáng)調(diào)，SK Hynix 的 HBM 受到全球公司的高度關(guān)注，尤其是七大科技巨頭（M7），其中包括蘋(píng)果、微軟、谷歌 Alphabet、亞馬遜、Nvidia、Meta 和特斯拉等科技巨頭。Ryu 透露：“七大科技巨頭（M7）的所有成員，也就是美國(guó)大型科技公司，都曾與我們接洽，要求提供定制的 HBM 解決方案?！?/p>

副總裁還分享了他對(duì)滿(mǎn)足這些需求的個(gè)人承諾，他表示：“我整個(gè)周末都在不停地與 M7 公司溝通。內(nèi)部需要大量工程資源來(lái)滿(mǎn)足他們的要求，我們正在付出巨大努力來(lái)確保這些資源。”這種奉獻(xiàn)精神反映了 SK Hynix 保持其在 HBM 市場(chǎng)領(lǐng)先地位的決心。

他還表示，SK 海力士需要自己定義內(nèi)存規(guī)格，而不是跟隨其他公司?！拔覀冃枰?jiǎng)?chuàng)建自己的（內(nèi)存半導(dǎo)體）規(guī)格，而不是跟隨特定的公司?！彼偨Y(jié)道：“我們正處于 HBM 模式的重要轉(zhuǎn)折點(diǎn)，定制產(chǎn)品的需求不斷增加。我們將抓住這些機(jī)會(huì)，繼續(xù)發(fā)展內(nèi)存業(yè)務(wù)?！?/p>

但HBM4涉及到了更先進(jìn)的邏輯芯片，并不擅長(zhǎng)這方面的海力士的選擇是與臺(tái)積電攜手，作為世界最大的晶圓代工廠，臺(tái)積電同樣也是M7的供應(yīng)商，清楚他們的需求，做類(lèi)似產(chǎn)品自然也是得心應(yīng)手。

今年早些時(shí)候，臺(tái)積電和 SK 海力士組建了所謂的 AI 半導(dǎo)體聯(lián)盟，該聯(lián)盟將結(jié)合兩家公司在各自領(lǐng)域的優(yōu)勢(shì)，并在“一個(gè)團(tuán)隊(duì)?wèi)?zhàn)略”原則下協(xié)調(diào)雙方戰(zhàn)略，隨后雙方宣布合作開(kāi)發(fā)HBM4基礎(chǔ)芯片，臺(tái)積電確認(rèn)將使用其12FFC+（12nm級(jí)）和N5（5nm級(jí)）工藝技術(shù)來(lái)協(xié)助海力士生產(chǎn)HBM4芯片。

圖源海力士

臺(tái)積電的 N5 工藝可實(shí)現(xiàn)更多集成邏輯和功能，互連間距從 9 微米到 6 微米，這對(duì)于片上集成至關(guān)重要。12FFC+ 工藝源自臺(tái)積電的 16nm FinFET 技術(shù)，將能夠生產(chǎn)具有成本效益的基片，使用硅中介層將內(nèi)存連接到主機(jī)處理器。

臺(tái)積電還在優(yōu)化其封裝技術(shù)，特別是CoWoS-L和 CoWoS-R，以支持 HBM4 集成。這些先進(jìn)的封裝方法可以構(gòu)建多達(dá)八個(gè)光罩尺寸的中介層，并便于組裝多達(dá) 12 個(gè) HBM4 內(nèi)存堆棧。新的中介層將具有多達(dá)八層，以確保高效布線超過(guò) 2,000 個(gè)互連，同時(shí)保持適當(dāng)?shù)男盘?hào)完整性。根據(jù)臺(tái)積電的幻燈片，到目前為止，實(shí)驗(yàn)性的 HBM4 內(nèi)存堆棧已達(dá)到 14mA 時(shí) 6 GT/s 的數(shù)據(jù)傳輸速率。

臺(tái)積電代表表示：“我們還針對(duì) HBM4 優(yōu)化了 CoWoS-L 和 CoWoS-R。CoWoS-L 和 CoWoS-R 都使用了超過(guò)八層，使 HBM4 能夠以 [適當(dāng)?shù)腯 信號(hào)完整性路由超過(guò) 2,000 個(gè)互連。我們與 Cadence、Synopsys 和 Ansys 等 EDA 合作伙伴合作，以認(rèn)證 HBM4 通道信號(hào)完整性、IR/EM 和熱精度?！?/p>

不過(guò)需要注意的是，盡管引入了臺(tái)積電的先進(jìn)制程和封裝，但海力士的HBM4芯片中的DRAM依舊采用了第五代10nm即1b的工藝，而SK 海力士預(yù)計(jì)將于 2025 年下半年量產(chǎn) 12 層 HBM4。

與此同時(shí)，三星作為擁有晶圓代工、存儲(chǔ)器、封裝等能力的IDM企業(yè)，也在積極推動(dòng)定制化的HBM AI解決方案。

2024年7月，三星電子內(nèi)存部門(mén)新事業(yè)企劃組長(zhǎng)崔章錫在“三星代工論壇”上表示，公司打算為HBM4代開(kāi)發(fā)多種定制化的HBM內(nèi)存產(chǎn)品，并宣布與AMD、蘋(píng)果等大客戶(hù)展開(kāi)合作。

崔章錫指出，HBM架構(gòu)正在發(fā)生深刻變革，很多客戶(hù)從傳統(tǒng)通用HBM轉(zhuǎn)向定制化產(chǎn)品。三星電子認(rèn)為，定制化HBM將在HBM4代成為現(xiàn)實(shí)。

三星的計(jì)劃是，以 HBM4 為契機(jī)扭轉(zhuǎn) HBM 戰(zhàn)局中的劣勢(shì)，三星同時(shí)擁有系統(tǒng) LSI 部門(mén)和代工部門(mén)，兩個(gè)部門(mén)在內(nèi)部通力合作，可以從 HBM4 基礎(chǔ)芯片的初始設(shè)計(jì)開(kāi)始優(yōu)化性能，而且由于英偉達(dá)等廠商希望將包括代工和封裝在內(nèi)的整個(gè)流程委托給一家公司，三星所謂的“交鑰匙（批量生產(chǎn)）”戰(zhàn)略顯然相較于海力士與臺(tái)積電合作來(lái)說(shuō)，更具備競(jìng)爭(zhēng)力。

圖源三星

三星在 7 月左右在其設(shè)備解決方案 (DS) 部門(mén)內(nèi)組建了一支400人左右的新的 HBM 開(kāi)發(fā)團(tuán)隊(duì)，目前已在 HBM4 方面取得了進(jìn)展，目標(biāo)是在今年年底前完成該產(chǎn)品的流片，此舉也被視為為其 2025 年底前大規(guī)模生產(chǎn) 12 層 HBM4 產(chǎn)品奠定了基石。

據(jù)悉，三星現(xiàn)有的HBM3E采用7納米工藝，但HBM4將跳過(guò)5-6納米工藝，采用4納米邏輯工藝，而內(nèi)存芯片則比海力士更加激進(jìn)，將采用 10nm 第六代 (1c) DRAM新品。

由于三星計(jì)劃在 HBM4 核心芯片中使用 1c DRAM，相關(guān)投資也將隨之而來(lái)。TrendForce 報(bào)告稱(chēng)，三星的 P4L 工廠將從 2025 年開(kāi)始成為擴(kuò)大內(nèi)存容量的關(guān)鍵地點(diǎn)，DRAM 的設(shè)備安裝預(yù)計(jì)將于 2025 年中期開(kāi)始，1c 納米 DRAM 的量產(chǎn)預(yù)計(jì)將于 2026 年開(kāi)始。

就目前而言，三星的HBM3E 仍在與英偉達(dá)的認(rèn)證過(guò)程中苦苦掙扎。TrendForce 指出，由于該公司渴望從 SK 海力士手中奪取更高的 HBM 市場(chǎng)份額，其 1alpha(1α) 產(chǎn)能已為 HBM3e 預(yù)留。

混合鍵合是未來(lái)？

需要注意的是，JEDEC的HBM4標(biāo)準(zhǔn)并未提及堆疊高度，其原定于今年年初發(fā)布HBM4標(biāo)準(zhǔn)，但據(jù)報(bào)道，由于成員公司對(duì)堆疊高度存在意見(jiàn)分歧，該發(fā)布被推遲。據(jù)了解，JEDEC有意將高度限制從現(xiàn)有的720微米（μm）放寬至775μm，原因是需要額外的空間來(lái)構(gòu)建更多的層。

這也讓 “混合鍵合”技術(shù)成為了內(nèi)存市場(chǎng)的關(guān)注焦點(diǎn)，這項(xiàng)能夠減少HBM厚度并提高速度的混合鍵合技術(shù)，被認(rèn)為是決定市場(chǎng)成敗的關(guān)鍵技術(shù)。

據(jù)韓媒報(bào)道，SK海力士正在開(kāi)發(fā)預(yù)計(jì)明年量產(chǎn)的HBM4的兩種鍵合方式，分別是現(xiàn)有的“MR-MUF”（Mass Reflow-Molded UnderFill）和混合鍵合的雙軌方式。

所謂的鍵合是指半導(dǎo)體之間的粘合工藝。HBM是通過(guò)堆疊DRAM制成的產(chǎn)品，MR-MUF是先加熱進(jìn)行類(lèi)似焊接的操作，然后在芯片之間加入粘稠的液體使其固化的方式。同時(shí)，還進(jìn)行保護(hù)芯片的“封裝”工序。在這過(guò)程中，DRAM之間通過(guò)稱(chēng)為“凸點(diǎn)”（球狀導(dǎo)電突起）的材料進(jìn)行連接。然而，混合鍵合技術(shù)則無(wú)需在DRAM之間使用凸點(diǎn)，直接連接DRAM。這一技術(shù)不僅可以大幅減少HBM的厚度，還能縮短DRAM之間的距離，從而加快數(shù)據(jù)傳輸速度。由于該方式在彌補(bǔ)傳統(tǒng)鍵合方式的弱點(diǎn)上表現(xiàn)出色，已引起主要客戶(hù)的高度關(guān)注。

一位半導(dǎo)體行業(yè)人士表示，“由于混合鍵合的技術(shù)難度較高，SK海力士可能會(huì)在HBM4的16層產(chǎn)品上繼續(xù)采用MR-MUF方式，但預(yù)計(jì)后年起無(wú)論如何都會(huì)引入混合鍵合技術(shù)?！?/p>

特別是國(guó)際半導(dǎo)體標(biāo)準(zhǔn)化組織（JEDEC）最近將HBM4標(biāo)準(zhǔn)的厚度從之前的720微米（?）放寬至775微米。這意味著，內(nèi)存企業(yè)可以通過(guò)現(xiàn)有的鍵合方式實(shí)現(xiàn)HBM4，預(yù)計(jì)在未來(lái)一段時(shí)間內(nèi)，MR-MUF和混合鍵合將并存發(fā)展。

然而，更值得關(guān)注的是三星電子試圖顛覆HBM市場(chǎng)的動(dòng)向。三星電子據(jù)稱(chēng)非常有決心在HBM4中實(shí)現(xiàn)混合鍵合的成功。另一位業(yè)內(nèi)人士表示，“如果混合鍵合技術(shù)難以實(shí)現(xiàn)，三星電子或?qū)默F(xiàn)有的‘TC-NCF’（熱壓縮非導(dǎo)電膜）方式轉(zhuǎn)向MR-MUF，但目前看重混合鍵合的可能性更大?！比请娮幽壳巴ㄟ^(guò)TC-NCF方式制造HBM，在芯片之間加入薄薄的非導(dǎo)電膜（NCF）后進(jìn)行熱壓縮。然而，迄今為止，在產(chǎn)品的完整性和生產(chǎn)效率方面，該方式被認(rèn)為不如MR-MUF具有競(jìng)爭(zhēng)力。

三星電子在最近于美國(guó)科羅拉多州丹佛舉辦的電子元件技術(shù)會(huì)議（ECTC）上發(fā)表了論文，強(qiáng)調(diào)混合鍵合技術(shù)對(duì)于16層以上的HBM產(chǎn)品來(lái)說(shuō)是必要的。盡管JEDEC放寬了厚度標(biāo)準(zhǔn)，三星電子仍希望在競(jìng)爭(zhēng)對(duì)手之前成功實(shí)現(xiàn)混合鍵合，確保市場(chǎng)領(lǐng)先地位。如果未來(lái)推出24層、32層等更高級(jí)產(chǎn)品，混合鍵合將成為必需技術(shù)。

這一動(dòng)向預(yù)計(jì)將促使受到三星電子追趕的SK海力士加速混合鍵合技術(shù)的開(kāi)發(fā)。SK集團(tuán)董事長(zhǎng)崔泰源本月初訪問(wèn)了SK海力士總部，并向員工傳達(dá)了“在明年提前實(shí)現(xiàn)第六代HBM商業(yè)化”的信息，業(yè)界認(rèn)為這也包含了混合鍵合技術(shù)的相關(guān)內(nèi)容。事實(shí)上，SK海力士的高層人士在公開(kāi)場(chǎng)合頻繁提到混合鍵合封裝技術(shù)。

據(jù)稱(chēng)，美光也正在集中研究針對(duì)HBM4的混合鍵合技術(shù)。然而，業(yè)內(nèi)預(yù)測(cè)其技術(shù)成熟度相對(duì)落后于三星電子和SK海力士。行業(yè)人士表示：“美光科技預(yù)計(jì)在未來(lái)一段時(shí)間內(nèi)將繼續(xù)使用當(dāng)前的TC-NCF方式。”

寫(xiě)在最后

就現(xiàn)在來(lái)看，HBM市場(chǎng)已經(jīng)形成了“一超一強(qiáng)一平”的格局。

海力士技術(shù)實(shí)力最為雄厚，作為英偉達(dá)最重要的供應(yīng)商，它掌握著主動(dòng)權(quán)，而三星盡管招數(shù)盡出，但在HBM3和3E的英偉達(dá)認(rèn)證上表現(xiàn)并不理想，HBM4已經(jīng)不容有失，而美光盡管已經(jīng)向英偉達(dá)出貨HBM，但市場(chǎng)份額實(shí)在太小，其對(duì)于HBM標(biāo)準(zhǔn)的影響也較小，短時(shí)間內(nèi)很難對(duì)兩家韓廠構(gòu)成實(shí)質(zhì)性的威脅。

在HBM4來(lái)臨之時(shí)，行業(yè)或?qū)⒂瓉?lái)一場(chǎng)更激烈的戰(zhàn)爭(zhēng)，而其中勝者，有望真正主宰未來(lái)十年的DRAM市場(chǎng)。