集邦諮詢:預期HBM3與HBM3e將成2024年HBM市場主流 兩大韓廠預計明年Q1送樣HBM3e

智通財經APP獲悉,根據TrendForce集邦諮詢調查顯示,2023年HBM(High Bandwidth Memory)市場主流為HBM2e,包含NVIDIA A100/A800、AMD MI200以及多數CSPs自研加速芯片皆以此規格設計。同時,為順應AI加速器芯片需求演進,各原廠計劃於2024年推出新產品HBM3e,預期HBM3與HBM3e將成為明年市場主流。

HBM各世代差異,主要以速度做細分。除了市場已知的HBM2e外,在進入HBM3世代時,產業出現較為混亂的名稱。TrendForce集邦諮詢特別表示,目前市場所稱的HBM3實際需細分為兩種速度討論,其一,5.6-6.4Gbps的HBM3;其二,8Gbps的HBM3e,別名HBM3P、HBM3A、HBM3+、HBM3 Gen2皆屬此類。

目前三大原廠HBM發展進度如下,兩大韓廠SK海力士(SK hynix)、三星(Samsung)先從HBM3開發,代表產品為NVIDIA H100/H800以及AMD的MI300系列,兩大韓廠預計於2024年第一季送樣HBM3e;美系原廠美光(Micron)則選擇跳過HBM3,直接開發HBM3e。

HBM3e將由24Gb mono die堆棧,在8層(8Hi)的基礎下,單顆HBM3e容量將一口氣提升至24GB,此將導入在2025年NVIDIA推出的GB100上,故三大原廠預計要在2024年第一季推出HBM3e樣品,以期在明年下半年進入量產。

集邦諮詢:預期HBM3與HBM3e將成2024年HBM市場主流 兩大韓廠預計明年Q1送樣HBM3e

CSP陸續啓動自研AI加速芯片計劃,欲擺脱對NVIDIA與AMD的依賴

觀察AI服務器(AI server)所用的加速芯片,其中英偉達(NVIDIA)Server GPU市佔最高。然而,單張2萬-2.5萬美元的H100/H800,一台AI服務器建議配置約為8張卡,也使得總體擁有成本(Total Cost of Ownership,TCO)大幅提升。TrendForce集邦諮詢觀察到,各雲端服務業者(CSP)雖然仍會向NVIDIA或超威(AMD)採購Server GPU,但也同步進行自研AI加速芯片的計劃。

除了已經推出的Google TPU與AWS Trainium和Inferentia外,Google與AWS正着手研發次世代自研AI加速芯片,將採用HBM3或HBM3e。TrendForce集邦諮詢表示,其他包含北美及中國的雲端服務業者亦有相關驗證進行中,預期未來AI加速芯片版圖競爭會更加激烈。

版權聲明:本文源自 網絡, 於,由 楠木軒 整理發佈,共 1024 字。

轉載請註明: 集邦諮詢:預期HBM3與HBM3e將成2024年HBM市場主流 兩大韓廠預計明年Q1送樣HBM3e - 楠木軒