HBM是高带宽内存,正在被AI芯片使用。HBM位于GPU旁边。目前只有三家公司能够生产HBM。
SK Hynix - 他们是市场领袖。最大HBM供应商。他们是HBM3E和HBM4的体积领导者。
Samsung Electronics - 他们是HBM3E和HBM4的主要供应商。他们将占有HBM4的更大份额。
Micron - 他们是最快增长的供应商。他们生产HBM3E,并在Nvidia Rubin平台上生产HBM4。
HBM供应商使用堆栈作为GPU的测量单位。NVIDIA B200有8个HBM3E堆栈,每个堆栈包含24GB。总内存为8*24GB,共192GB。需要关注的是,每个GPU将使用多少堆栈。
Nvidia芯片:
H100 - 5个堆栈
H200 - 6个堆栈
B200 - 8个堆栈
GB 300 - 8个堆栈
Rubin - 8个堆栈
Rubin Ultra - 16个堆栈
Feynman是下一代,并且基于进步,它可能会使用16个堆栈或更多。
AMD芯片:
MI300A - 8个堆栈
MI300X - 8个堆栈
MI325X - 8个堆栈
MI350X - 8个堆栈
MI400是下一代,使用12个堆栈。
英特尔芯片:
Gaudi 2 - 6个堆栈
Gaudi 3 - 8个堆栈
Falcon Shores是下一代,但没有宣布堆栈数量。
Amazon的Tranium,Tranium2,Tranium3和Inferentia2使用HBM,但不披露堆栈数量。
Google芯片:
TPU v4 - 4个HBM堆栈
TPU v5e未披露
TPU v5p未披露
Ironwood TPU - 6个堆栈
微软正在开发Maia 100,但没有披露将使用多少HBM。
Meta正在开发MTIA 300/400/450/500,将使用HBM。他们可能会使用4-8个HBM堆栈,但这只是猜测。
其他公司,例如苹果,Broadcom,OpenAi,特斯拉,xAI,Marvell,阿里巴巴,字节跳动,百度,华为和IBM,也可能正在使用HBM或投资基础设施。
从上述例子中可以看出,HBM在GPU的每一代中都在使用更大的数量。HBM除了数据中心外的未来应用包括人形机器人,自动驾驶汽车和工业机器人。工业机器人中使用HBM的比例很小。我们可能不会看到这一点,直到2027年。
全球HBM堆栈需求预测:
2026年 ~ 20-30万堆栈
2027年 ~ 35-50万堆栈
2028年 ~ 55-75万堆栈
2029年 ~ 80-100万堆栈
2030年 ~ 100-150万堆栈
如果芯片制造商在未来能够生产更高效的芯片,也意味着他们将取代旧的代际,创造后续需求。从投资者的角度来看,我非常乐观。每个超级计算机的收益电话都基本上说他们的业务在增长,并且他们的容量有限。
谷歌云的收入增长率为82%YOY,Azure为43%,AWS为37%。我看不到不继续投资的理由。AI基础设施支出正在转化为云收入增长。它验证了支出,支持继续的HBM需求。基于收益电话,微软,亚马逊和谷歌的投资回报率最高。Meta是唯一一个真正没有表现出最佳投资回报率的超级计算机。他们可能会减少他们的Capex支出,但其他超级计算机可能会为该需求提供补充。
评论 (0)