目前,大家都在疯狂地投资DRAM ETF、MU和SNDK,原因是MU刚刚发布了一个史上最强的财报。收入、利润和利润率的增长主要是由于DRAM/NAND价格的剧烈上涨,以及随着AI的建设需求不断增加,内存需求的不断增长。因此,内存公司正是受益于超级计算机制造商的疯狂的CapEx支出。
新的叙述是,历史上周期性的小行业将不再是周期性的小行业,因为将会有一个持续不断的对内存的需求,因为芯片和数据中心的演进将继续进行。
再次提到,关于Micron的财报的一个有趣的部分是,货运增长并没有大幅推动收入增长(某些业务单位的货运甚至下降),但是ASP的大幅上涨才是推动销售额大幅增长的原因。现在,DRAM/NAND闪存的现货价格已经达到峰值,并且将继续下滑,因为几个中国内存玩家正在逐渐占据市场。另外,在过去的DRAM周期中,内存股票价格通常在实际DRAM价格达到峰值前5-8个月达到峰值。
然而,在“周期性是死”的辩论中并没有讨论到大内存购买者正在工作和规划的措施,这些措施将优化他们对内存的使用。
附表显示了美国大型科技公司开发的技术,可以压缩内存使用量20-40倍。
NVDA的KV缓存变换编码(KVTC)方法的简要描述:
KVTC是一种方法,它借鉴了经典媒体压缩来显著减小大型语言模型(LLMs)中的Key-Value(KV)缓存的大小。通过应用主成分分析(PCA)和熵编码,它可以将内存需求压缩到20×(对于某些用例可达40×)而不修改模型权重。
评论 (0)