我使用 Claude(Opus 5.5) 在云端完成了这件事。它在本地也应该能工作,但我没有测试过。

  1. 获取参考视频。 一条连续的镜头,全身在画面中。

  2. 让 Claude 安装工具: MediaPipe、HMR 2.0、YOLO11 和 Blender。自行从 Mixamo 下载 X Bot 并告诉 Claude 使用它,否则它会自己生成一个粗糙的 3D 角色。

  3. MediaPipe 在每一帧中找到 2D 关节位置(膝盖、踝关节、腕关节),HMR 2.0 将其转换为带有深度和关节旋转的完整 3D 姿态,这才是真正驱动角色的部分。

  4. YOLO 跟踪视频中的物体。在我的游戏中是滑板,但对于你来说可能是剑或其他任何东西。

  5. 在 Blender 中组合并渲染。 你也可以让 Claude 完成这部分工作。

  6. 导出为 GLB 或你需要的其他格式。