我认为世界上对韩国NPU公司的关注度太低了,尤其是Rebellions、FuriosaAI和DeepX。Rebellions和FuriosaAI计划在年底前进行IPO,FuriosaAI还计划在纳斯达克上市。NPU或推理芯片可能会大大减少对HBMs和GPU的需求。韩国正在大力投资这三个NPU。最近,他们创立了自己的主权财富基金,并将首次投资投入这些NPU初创公司。值得关注。

简要概述: >韩国AI半导体初创公司Rebellions成功在其自主的NPU服务器“Rebel Server”上运行SK Telecom的超大规模AI模型“A.X K1”。该公司在单个服务器上处理了超过500亿参数的模型,表现出与全球GPU服务器相似的效率,尤其是在MoE架构的分布式并行处理技术方面。通过成功地在多用户并发访问条件下实现实时代理服务和零延迟,国内生产的AI半导体的商业化前景大大增强。这一成就被视为“主权AI”的具体里程碑,潜在地减少对NVIDIA GPU的依赖。