生成式AI帶動記憶體需求，也讓記憶體產業出現供應端緊俏現象，最近花旗集團調高美光科技的股價評等，帶動美光科技近期股價大漲。已通過Nvidia的HBM3e認證的海力士，近期宣布HBM4要進入量產，帶動海力士股價股價創24年新高。美光科技、海力士股價上漲效應，也推升三星電子的股價表現。

這幾年生成式AI給記憶體帶來革命性的發展，Nvidia在2017年推出Volta時，對HBM的規格要求就是在HBM2，這是HBM首度用在與AI相關的設備上，並讓HBM正式與AI搭上線，取代先前的GDDR記憶體。與HBM2結合的Nvidia AI GPU，主要用於HPC和早期的AI訓練。2020年Nvidia推出的Ampere(A100)，記憶體規格推升到HBM2e。接下來Nvidia推出的Hopper(H00)和Blackwell(B100、B200系列)，就分別把記憶體規格推升到HBM3和HBM3e。目前Nvidia的Blackwell系列機櫃正進入大量出貨期。接下來，Nvidia預計要在明年推出的Rubim和Rubin CPX系列的AI機櫃，對記憶體的規格要求將達到HBM4和SOCAMM，以支援更高層數堆疊(>12-hi)，單模組帶寬>2 TB/s。日前甲骨文在財報會議中表示，未來市場對AI的需求將轉變為AI推理需求，主要是需要多組AI CPU連結而成的資料中心集叢，對記憶體要求功耗更低、容量更大。

全球HBM市場，海力士的市占率最高，高達62%，海力士最近股價上漲的理由是宣布推出HBM4，來搶攻更高階的HBM市場。海力士原本在全球記憶體市場市占率第2大，但這兩年因為該公司的HBM數量大增，使得海力士到今年上半年其記憶體市占率居然與三星電子打平，兩者都是全球記憶體龍頭。但以HBM而言，海力士在這部分領先三星電子。近3年海力士股價大漲，股價創2000年11月以來的新高，HBM是主要推升力道，也讓海力士成為南韓KOSPI指數第二大權重股(接近1700億美元)。即便與三星電子的市值仍有一段差距，但就未來成長性來說，海力士遠大於三星電子。

最近三星電子宣布其次世代高頻寬記憶體HBM4已經完成內部認證，準備進入階段，這對AI應用非常重要。海力士表示，今年初已經交付首批12層HBM4樣品給客戶，在HBM4的進度上，海力士把美光科技和三星電子等對手拋在後面。海力士HBM部門負責人趙洲煥(音譯)指出，HBM4內存寬代較前一世代產品提升一倍，效能提高超過40%，HBM4最高將使AI服務性能提升高達69%，從而幫助解決數據瓶頸問題並能降低資料中心的功耗問題。

海力士先前發布第2季財報顯示，上季營收年增35.4%、達到22.232兆韓元，毛利年增53.9%、11.983兆韓元。海力士樂觀地表示，該公司到年底前的產能全滿載，受惠AI對HBM需求激勵，該公司到2030年以前每年都會以30%的速度成長。目前AI使用的記憶體產品已嵌入專屬邏輯晶片(base die)以管理運作，使得競爭對手的產品不容易遭替換。海力士HBM高層也認為，未來客戶的客製化需求將進一步增加，目前高階HBM主要供貨給Nvidia這類大型客戶，中小型客戶採用標準化方案，每位客戶都有不同喜好，有些在意運作效能，有些重視功耗。

相較於海力士業績強勁成長以及對未來HBM前景看好，三星電子雖然也看好未來在AI加持下將提升記憶體需求。三星電子到目前為主的12層HBM3e到上半年為止還沒有真正獲得Nvidia的認證，雖然有業界傳言三星電子HBM3e之前有過熱問題已獲得解決，並獲得「可用」的評價，但Nvidia還沒正式宣布該項產品取得認證，這影響到三星電子HBM3e的出貨進度並影響該公司在HBM市占率的變化。去年三星電子在HBM市占率約在兩成，上半年下降到17%。這並不代表三星電子的HBM產品出貨遞減，而是因為競爭對手海力士和美光科技的HBM產品出貨增加，在整體HBM市場擴大後三星電子出貨數量沒跟上成長，就會造成該公司在HBM市占率下滑。

雖然還未獲得Nvidia的認證，三星電子未來仍會增加在HBM3e出貨進度，並增加高密度的DDR5產品，也在NAND推動高速、高密度SSD，提高記憶體出貨單價和提高利潤率。其實DDR5在整個Nvidia的AI系統內也屬於核心零組件，在AI伺服器整體架構中，GPU還是要透過CPU／主機板去存取DDR5系統記憶體，所以DDR5仍是支撐Nvidia AI系統的重要一環，這部分對三星電子出貨仍是有利的。只不過，DDR5的單價沒有HBM來得高，拉低三星電子整體記憶體的ASP。

美光科技在HBM的市占率雖然居於老三地位，但該公司的技術並不輸海力士，是因為產能的問題影響美光科技在HBM的市占率。Nvidia AI機櫃使用的HBM3e，美光科技很早就取得認證。美光科技也積極投入在HBM4的研發，並在HBM3e的出貨量取得相當大的規模，提高美光科技的獲利表現。如同先前所述DDR5在Nvidia AI系統上是核心零件。從美光科技的角度來看，資料中心客戶對DRAM/NAND的需求正在提升，特別是在AI模型執行階段(inference任務)對記憶體容量和效能正在提高，提升對記憶體產品的需求。

國際記憶體大廠陸續把生產線挪移到HBM，加上DDR5需求很高，使得記憶體生產端出現供應吃緊現象，先前記憶體庫存過高現象也正在改善中，使得記憶體價格可望漲價，市場分析師就認為NAND價格在明年還會進一步上漲，這也讓台灣記憶體股最近出現一波漲勢。

明年在Nvidia計畫出貨Rubin和Rubin CPX，其對接的記憶體將會是HBM4和SOCAMM。海力士宣布HBM4正式量產，也可能已經送給主要客戶進行認證，是進度最快的業者。美光科技的HBM4還沒進入量產，但在SOCAMM進度上卻是唯一已被Nvidia認證過的廠商，並已被授權可以大規模生產。SOCAMM將與Rubin CPX連結，這將會是用在AI推理市場的一款AI晶片系統。

AI推理平行運算過程中，其記憶體需求不會太高，這會讓HBM出現閒置狀態，而HBM價格又貴形成浪費。Nvidia明年要推出專屬AI推理用的Rubin CPX，使用的記憶體不是HBM4就是要解決閒置問題，同時也能降低AI機櫃系統的售價，所以採用SOCAMM。美光科技利用他們在低功耗DRAM性能上的優勢，做出未來可以用在資料中心AI伺服器的SOCAMM，主打高性能和低功耗的記憶體。