編者按：本文來自微信公眾號 半導體行業(yè)觀察（ID：icbank），作者：邵逸琦，創(chuàng)業(yè)邦經(jīng)授權轉(zhuǎn)載。

對于內(nèi)存行業(yè)來說，HBM已是萬眾矚目的焦點。

在過去兩年幾家大廠普遍虧損的情況下，只有HBM市場在不斷走高，成為了少數(shù)能拿得出手的業(yè)績，尤其像海力士這樣手握英偉達H100中HBM供貨權的廠商，成為了AI浪潮里掙得最多的廠商之一。

盡管距離第一款HBM 3E發(fā)布只有一年左右的時間，但是各大廠商已經(jīng)把HBM4提上了日程，尤其是兩家韓廠——SK海力士和三星，它們正在圍繞下一代HBM4內(nèi)存半導體的量產(chǎn)時間展開激烈的競爭。

兩家公司計劃在10月和11月完成基本設計，并進入量產(chǎn)階段，即所謂的“流片”（Tape Out），這一階段也意味著內(nèi)存芯片已經(jīng)具備完整的功能。兩家公司都等著為英偉達基于 Rubin 的 AI 芯片供應HBM 4，從而在未來市場中占據(jù)主導權。

是SK海力士繼續(xù)保持主導優(yōu)勢？還是三星重振雄風？

路線之爭

首先我們先來簡單了解下HBM 4的技術規(guī)格，其相比HBM3E，提供了雙倍的通道寬度，即2048位對1024位，數(shù)據(jù)傳輸速度和性能都有了顯著提升。HBM3E堆疊了12個DRAM芯片，支持24GB和32GB的容量，而HBM4可以堆疊16個DRAM芯片，支持64GB容量。

根據(jù) JEDEC 的說法，HBM4 旨在提高數(shù)據(jù)處理速度，同時保留更高的帶寬、更低的功耗和更大的單個芯片或堆棧容量等關鍵特性，這些特性對于需要高效管理大型數(shù)據(jù)集和復雜計算的應用（如生成式人工智能、高性能計算、高端顯卡和服務器）來說至關重要。

根據(jù) JEDEC 的初步規(guī)格，與 HBM3 相比，HBM4 預計 “每個堆棧的通道數(shù)翻倍”，這表明利用率更高，從而顯著提升性能。另外值得注意的是，為了支持設備兼容性，新標準確保單個控制器可同時支持 HBM3 和 HBM4。

JEDEC 指出，HBM4 將指定 24 Gb 和 32 Gb 層，支持從 4 hi到 16 hi的 TSV 堆疊。該委員會已初步同意最高 6.4 Gbps 的速度，并正在討論更高的頻率。

有趣的是，JEDEC 并未明確說明 HBM4 如何將存儲器和邏輯半導體集成到單個封裝中，而這正是業(yè)界急于解決的主要挑戰(zhàn)之一。

圖源英偉達

此前我們討論過，HBM每一代的標準，本質(zhì)上是技術路線之爭，誰的標準被采納，誰就能在市場中獲得領先地位，因而海力士、三星和美光圍繞著標準展開一場激烈的交鋒。

海力士和三星作為韓廠，最初就是存著將標準化為己用的目的：SK海力士當初研究 HBM 與邏輯處理器直接連接的概念，其涉及內(nèi)存和邏輯制造商共同設計芯片，然后由臺積電等晶圓代工廠制造，而三星也是如此，由于它同時具備晶圓代工和封裝業(yè)務，在這方面顯然具備更多優(yōu)勢。

美光當初并不打算把 HBM 和邏輯芯片整合到一個芯片中，當初它想宣傳的是，大家可以通過 HBM-GPU 這樣的組合芯片獲得更快的內(nèi)存訪問速度，但是單獨依賴某一家的芯片就意味著更大風險，也就是不能讓韓廠的標準成為現(xiàn)實。

美國媒體此前宣稱，隨著機器學習訓練模型的增大和訓練時間的延長，通過加快內(nèi)存訪問速度和提高每個 GPU 內(nèi)存容量來縮短運行時間的壓力也將隨之增加，而為了獲得鎖定的 HBM-GPU 組合芯片設計（盡管具有更好的速度和容量）而放棄標準化 DRAM 的競爭供應優(yōu)勢，可能不是正確的前進方式。

但韓媒的論調(diào)恰恰相反，多年以來，韓國非內(nèi)存半導體一直難成氣候，如今HBM帶來千載難逢的機會，自然不能錯過，他們表示，除了定制的DRAM 代工廠之外，可能還會出現(xiàn)一個更大的世界，即使是英偉達這樣的巨頭也將不得不在三星和 SK 海力士制造的板材上進行設計。

當然，如今看來，手握技術和市場的韓廠，終有一日會讓自己的路線變?yōu)镠BM4事實上的標準。美光當初力推HMC，本意也是想在數(shù)據(jù)中心內(nèi)存上占據(jù)領先地位，走出傳統(tǒng)的半導體周期，但最終卻走向失敗，如今的它很清楚海力士力推定制化內(nèi)存的影響，試圖加以阻止，但本就落后了它恐怕也只能跟著吃一點尾氣了。

兩大韓廠，強強對決

今年8 月 19 日，SK 海力士副總裁柳成洙出席了在首爾舉辦的“SK 利川論壇 2024”。在論壇的第二場會議上，柳成洙公布了 SK 海力士的雄心勃勃的戰(zhàn)略，即開發(fā)一款性能比現(xiàn)有 HBM 高出 30 倍的產(chǎn)品。

柳成洙表示：“我們的目標是開發(fā)性能比當前 HBM 提高 20 到 30 倍的產(chǎn)品，重點是推出差異化產(chǎn)品?！彼麖娬{(diào)，公司專注于通過先進的執(zhí)行能力，以面向 AI 的內(nèi)存解決方案來應對大眾市場。這一戰(zhàn)略至關重要，因為在 AI 技術的快速發(fā)展推動下，對高性能內(nèi)存的需求不斷增長。

柳成洙強調(diào)，SK Hynix 的 HBM 受到全球公司的高度關注，尤其是七大科技巨頭（M7），其中包括蘋果、微軟、谷歌 Alphabet、亞馬遜、Nvidia、Meta 和特斯拉等科技巨頭。Ryu 透露：“七大科技巨頭（M7）的所有成員，也就是美國大型科技公司，都曾與我們接洽，要求提供定制的 HBM 解決方案?！?/p>

副總裁還分享了他對滿足這些需求的個人承諾，他表示：“我整個周末都在不停地與 M7 公司溝通。內(nèi)部需要大量工程資源來滿足他們的要求，我們正在付出巨大努力來確保這些資源?！边@種奉獻精神反映了 SK Hynix 保持其在 HBM 市場領先地位的決心。

他還表示，SK 海力士需要自己定義內(nèi)存規(guī)格，而不是跟隨其他公司?！拔覀冃枰獎?chuàng)建自己的（內(nèi)存半導體）規(guī)格，而不是跟隨特定的公司?！彼偨Y(jié)道：“我們正處于 HBM 模式的重要轉(zhuǎn)折點，定制產(chǎn)品的需求不斷增加。我們將抓住這些機會，繼續(xù)發(fā)展內(nèi)存業(yè)務。”

但HBM4涉及到了更先進的邏輯芯片，并不擅長這方面的海力士的選擇是與臺積電攜手，作為世界最大的晶圓代工廠，臺積電同樣也是M7的供應商，清楚他們的需求，做類似產(chǎn)品自然也是得心應手。

今年早些時候，臺積電和 SK 海力士組建了所謂的 AI 半導體聯(lián)盟，該聯(lián)盟將結(jié)合兩家公司在各自領域的優(yōu)勢，并在“一個團隊戰(zhàn)略”原則下協(xié)調(diào)雙方戰(zhàn)略，隨后雙方宣布合作開發(fā)HBM4基礎芯片，臺積電確認將使用其12FFC+（12nm級）和N5（5nm級）工藝技術來協(xié)助海力士生產(chǎn)HBM4芯片。

圖源海力士

臺積電的 N5 工藝可實現(xiàn)更多集成邏輯和功能，互連間距從 9 微米到 6 微米，這對于片上集成至關重要。12FFC+ 工藝源自臺積電的 16nm FinFET 技術，將能夠生產(chǎn)具有成本效益的基片，使用硅中介層將內(nèi)存連接到主機處理器。

臺積電還在優(yōu)化其封裝技術，特別是CoWoS-L和 CoWoS-R，以支持 HBM4 集成。這些先進的封裝方法可以構建多達八個光罩尺寸的中介層，并便于組裝多達 12 個 HBM4 內(nèi)存堆棧。新的中介層將具有多達八層，以確保高效布線超過 2,000 個互連，同時保持適當?shù)男盘柾暾?。根?jù)臺積電的幻燈片，到目前為止，實驗性的 HBM4 內(nèi)存堆棧已達到 14mA 時 6 GT/s 的數(shù)據(jù)傳輸速率。

臺積電代表表示：“我們還針對 HBM4 優(yōu)化了 CoWoS-L 和 CoWoS-R。CoWoS-L 和 CoWoS-R 都使用了超過八層，使 HBM4 能夠以 [適當?shù)腯 信號完整性路由超過 2,000 個互連。我們與 Cadence、Synopsys 和 Ansys 等 EDA 合作伙伴合作，以認證 HBM4 通道信號完整性、IR/EM 和熱精度。”

不過需要注意的是，盡管引入了臺積電的先進制程和封裝，但海力士的HBM4芯片中的DRAM依舊采用了第五代10nm即1b的工藝，而SK 海力士預計將于 2025 年下半年量產(chǎn) 12 層 HBM4。

與此同時，三星作為擁有晶圓代工、存儲器、封裝等能力的IDM企業(yè)，也在積極推動定制化的HBM AI解決方案。

2024年7月，三星電子內(nèi)存部門新事業(yè)企劃組長崔章錫在“三星代工論壇”上表示，公司打算為HBM4代開發(fā)多種定制化的HBM內(nèi)存產(chǎn)品，并宣布與AMD、蘋果等大客戶展開合作。

崔章錫指出，HBM架構正在發(fā)生深刻變革，很多客戶從傳統(tǒng)通用HBM轉(zhuǎn)向定制化產(chǎn)品。三星電子認為，定制化HBM將在HBM4代成為現(xiàn)實。

三星的計劃是，以 HBM4 為契機扭轉(zhuǎn) HBM 戰(zhàn)局中的劣勢，三星同時擁有系統(tǒng) LSI 部門和代工部門，兩個部門在內(nèi)部通力合作，可以從 HBM4 基礎芯片的初始設計開始優(yōu)化性能，而且由于英偉達等廠商希望將包括代工和封裝在內(nèi)的整個流程委托給一家公司，三星所謂的“交鑰匙（批量生產(chǎn)）”戰(zhàn)略顯然相較于海力士與臺積電合作來說，更具備競爭力。

圖源三星

三星在 7 月左右在其設備解決方案 (DS) 部門內(nèi)組建了一支400人左右的新的 HBM 開發(fā)團隊，目前已在 HBM4 方面取得了進展，目標是在今年年底前完成該產(chǎn)品的流片，此舉也被視為為其 2025 年底前大規(guī)模生產(chǎn) 12 層 HBM4 產(chǎn)品奠定了基石。

據(jù)悉，三星現(xiàn)有的HBM3E采用7納米工藝，但HBM4將跳過5-6納米工藝，采用4納米邏輯工藝，而內(nèi)存芯片則比海力士更加激進，將采用 10nm 第六代 (1c) DRAM新品。

由于三星計劃在 HBM4 核心芯片中使用 1c DRAM，相關投資也將隨之而來。TrendForce 報告稱，三星的 P4L 工廠將從 2025 年開始成為擴大內(nèi)存容量的關鍵地點，DRAM 的設備安裝預計將于 2025 年中期開始，1c 納米 DRAM 的量產(chǎn)預計將于 2026 年開始。

就目前而言，三星的HBM3E 仍在與英偉達的認證過程中苦苦掙扎。TrendForce 指出，由于該公司渴望從 SK 海力士手中奪取更高的 HBM 市場份額，其 1alpha(1α) 產(chǎn)能已為 HBM3e 預留。

混合鍵合是未來？

需要注意的是，JEDEC的HBM4標準并未提及堆疊高度，其原定于今年年初發(fā)布HBM4標準，但據(jù)報道，由于成員公司對堆疊高度存在意見分歧，該發(fā)布被推遲。據(jù)了解，JEDEC有意將高度限制從現(xiàn)有的720微米（μm）放寬至775μm，原因是需要額外的空間來構建更多的層。

這也讓 “混合鍵合”技術成為了內(nèi)存市場的關注焦點，這項能夠減少HBM厚度并提高速度的混合鍵合技術，被認為是決定市場成敗的關鍵技術。

據(jù)韓媒報道，SK海力士正在開發(fā)預計明年量產(chǎn)的HBM4的兩種鍵合方式，分別是現(xiàn)有的“MR-MUF”（Mass Reflow-Molded UnderFill）和混合鍵合的雙軌方式。

所謂的鍵合是指半導體之間的粘合工藝。HBM是通過堆疊DRAM制成的產(chǎn)品，MR-MUF是先加熱進行類似焊接的操作，然后在芯片之間加入粘稠的液體使其固化的方式。同時，還進行保護芯片的“封裝”工序。在這過程中，DRAM之間通過稱為“凸點”（球狀導電突起）的材料進行連接。然而，混合鍵合技術則無需在DRAM之間使用凸點，直接連接DRAM。這一技術不僅可以大幅減少HBM的厚度，還能縮短DRAM之間的距離，從而加快數(shù)據(jù)傳輸速度。由于該方式在彌補傳統(tǒng)鍵合方式的弱點上表現(xiàn)出色，已引起主要客戶的高度關注。

一位半導體行業(yè)人士表示，“由于混合鍵合的技術難度較高，SK海力士可能會在HBM4的16層產(chǎn)品上繼續(xù)采用MR-MUF方式，但預計后年起無論如何都會引入混合鍵合技術?！?/p>

特別是國際半導體標準化組織（JEDEC）最近將HBM4標準的厚度從之前的720微米（?）放寬至775微米。這意味著，內(nèi)存企業(yè)可以通過現(xiàn)有的鍵合方式實現(xiàn)HBM4，預計在未來一段時間內(nèi)，MR-MUF和混合鍵合將并存發(fā)展。

然而，更值得關注的是三星電子試圖顛覆HBM市場的動向。三星電子據(jù)稱非常有決心在HBM4中實現(xiàn)混合鍵合的成功。另一位業(yè)內(nèi)人士表示，“如果混合鍵合技術難以實現(xiàn)，三星電子或?qū)默F(xiàn)有的‘TC-NCF’（熱壓縮非導電膜）方式轉(zhuǎn)向MR-MUF，但目前看重混合鍵合的可能性更大?！比请娮幽壳巴ㄟ^TC-NCF方式制造HBM，在芯片之間加入薄薄的非導電膜（NCF）后進行熱壓縮。然而，迄今為止，在產(chǎn)品的完整性和生產(chǎn)效率方面，該方式被認為不如MR-MUF具有競爭力。

三星電子在最近于美國科羅拉多州丹佛舉辦的電子元件技術會議（ECTC）上發(fā)表了論文，強調(diào)混合鍵合技術對于16層以上的HBM產(chǎn)品來說是必要的。盡管JEDEC放寬了厚度標準，三星電子仍希望在競爭對手之前成功實現(xiàn)混合鍵合，確保市場領先地位。如果未來推出24層、32層等更高級產(chǎn)品，混合鍵合將成為必需技術。

這一動向預計將促使受到三星電子追趕的SK海力士加速混合鍵合技術的開發(fā)。SK集團董事長崔泰源本月初訪問了SK海力士總部，并向員工傳達了“在明年提前實現(xiàn)第六代HBM商業(yè)化”的信息，業(yè)界認為這也包含了混合鍵合技術的相關內(nèi)容。事實上，SK海力士的高層人士在公開場合頻繁提到混合鍵合封裝技術。

據(jù)稱，美光也正在集中研究針對HBM4的混合鍵合技術。然而，業(yè)內(nèi)預測其技術成熟度相對落后于三星電子和SK海力士。行業(yè)人士表示：“美光科技預計在未來一段時間內(nèi)將繼續(xù)使用當前的TC-NCF方式?！?/p>

寫在最后

就現(xiàn)在來看，HBM市場已經(jīng)形成了“一超一強一平”的格局。

海力士技術實力最為雄厚，作為英偉達最重要的供應商，它掌握著主動權，而三星盡管招數(shù)盡出，但在HBM3和3E的英偉達認證上表現(xiàn)并不理想，HBM4已經(jīng)不容有失，而美光盡管已經(jīng)向英偉達出貨HBM，但市場份額實在太小，其對于HBM標準的影響也較小，短時間內(nèi)很難對兩家韓廠構成實質(zhì)性的威脅。

在HBM4來臨之時，行業(yè)或?qū)⒂瓉硪粓龈ち业膽?zhàn)爭，而其中勝者，有望真正主宰未來十年的DRAM市場。