为什么Kimik3的发布会导致投资者重新评估大规模AI投入? 因为它是迄今为止参数数量最多的模型,接近3万亿参数和1百万上下文窗口。如果说这应该确认模型越来越大(GPT3在十亿参数),那么就需要更多的计算能力和内存。甚至有些公司已经耗尽计算能力,需要暂停使用他们的托管服务。 Kimi的token价格并不便宜,与美国前沿模型相似。的确,已经有算法优化方法,如混合专家等,但这并不是什么新鲜事(DeepSek正使用MoE)。 整个行业都在追求效率,内存使用优化等,但模型仍在不断增长。这应该会打乱像OpenAI和Anthropic这样的封闭模型。但是,半导体制造商(picks and shovels)仍然安全吗? Nvidia和Avago几乎没有受到消息的影响。大多数公司宁愿在美国云上托管开源模型,而不是在中国云上或自建数据中心,出于隐私、安全、地缘政治、合规等原因。因此,美国超级计算机仍将占据大部分AI业务。中国云仍在使用老旧技术和低效的硬件,因此无法在提供最佳推理速度和训练性能方面与美国超级计算机竞争。 另外,中国内存供应商的打扰也很重要。他们仍然落后于最先进的DRAM在产量和制造方面几年,HBM-1方面更是落后几年。HBM制造极为困难,因为需要非常高的精度和其他先进技术。他们在DRAM市场的市场份额仍然是内存卡特尔中最小的。那么,我们现在应该担心中国AI发展吗?
中国人工智能发展的FUD是什么?
评论 (0)