Qwen3.6-35B-A3B,Q4_K_M,股票llama.cpp,飞机模式。 1.3到6.8 tok/s 之间,十分钟从开始到结束。 在适配问题上,既然总是会出现: 35B总数,3B每个token活跃。 总是需要的部分留在RAM中,专家从闪存中读取当被调用时。 内存持有活跃路径,而不是整个文件。 我们知道为什么我忍受了 十分钟 (视频在开始和结束时是正常速度,中间加快) Pocket Interpreter:你用一句话描述一个应用,模型写一个p5.js画布,手机运行它。 我要求 "一款蛇游戏,使用滑动控制",并得到了一个游戏循环,食物生成,墙壁和自身碰撞,分数,速度随着吃的增加而增加,以及一个阈值的滑动处理器,以免你的拇指在一次滑动中翻转两次。 首次运行成功。 我没有触摸一行代码。 尝试一下用3B吧。 你会得到一些看起来正确的东西,但在第一个墙壁上就死了,然后是四轮描述bug和等待修复的循环,修复的bug又会打破其他东西。 你已经超过了十分钟了,手动在手机屏幕上编辑代码。 每秒token是错误的数字。 重要的是,当生成结束时,是否会正常工作。 大型模型你会等待,还是小型模型你会争论? 在手机上,我会选择等待。 极端版本如果你想: BigMoeOnEdge([https://github.com/Helldez/BigMoeOnEdge](https://github.com/Helldez/BigMoeOnEdge))在12GB手机上,CPU只使用,运行一个120B,并且准备好apk
我将手机设置为飞行模式,向35B MoE(移动游戏公司)询问是否有蛇类游戏。他们10分钟内就给了我一个游戏
评论 (0)