当令牌变成像商品一样时,且大多数工作流程可以用10倍便宜的开源模型来完成,而不是使用最新的前沿模型时....
或者,企业愿意使用10倍便宜的开源模型,并在使用它们的公司特定背景下进行后训练,而不是支付前沿Mythos类模型的费用。
这对Anthropic和OpenAI的私有股东来说简直就是噩梦,因为这意味着他们无法在服务令牌时进行价格 gouge
这并不是对计算供应链其他部分来说的噩梦。
令牌成本降低意味着更多的企业采用AI工作流程,而每个令牌都需要进行推理计算,这现在是瓶颈,未来还会越来越严重。
这意味着更多的资金会投入到推理计算的建设中,更多的GPU,更多的内存芯片,更多的光学传感器,更多的背负式电源供应,更多的利润分成给新型云等等。
而Ant和OAI越来越惨,开源模型越来越受欢迎,令牌越来越便宜,这对$NVIDIA,$INTC,$MU等股票来说都是好消息。
评论 (0)