最新最热精华悬赏待回答 筛选
  • 2

    回答

大模型微调权重加载问题

图片里是我做llm微调和自定义模块时候保存的权重文件，这个是最佳模型，同时还有一个全量的最佳模型，在做测试的时候加载这个增量权重的时候，结果低了10%以上（全量权重结果是正确的），但是同样一份代码，在

回答 嘻嘻嘻夏溪
采纳率33.3%
  • 1

    回答

AMD395处理器使用lmstudio时显存分配的问题

使用max+395迷你主机，显存分配96G，但是在本地使用LMstudio加载模型时总是失败，在任务管理器里看到模型总是往内存里加载。重分配成64G内存/64G显存后，一部分30B左右的模型可以正常加

  • vllm
  • 10
  • 2026-02-09 00:41
回答 bg4toh
采纳率0%
  • 2

    回答

怎么跑gui agent代码

请教各位一个问题，gui task是怎么跑的，服务器上安装安卓模拟器吗，还是服务器有什么办法可以连接本地真机

回答 m0_74350940
采纳率0%
  • 2

    回答

Qwen3-VL GRPO训练：vLLM V1 引擎在多卡分布式环境下无法单卡初始化，卡在 Waiting for core engine

问题背景：我正在尝试实现 GRPO 算法训练 Qwen3-VL-8B-Thinking。采用“分布式训练 + 独立推理卡”的方案,在autodl上租了3张RTX PRO 6000 96G， 前两张卡用

  • vllm
  • 22
  • 2026-01-22 19:08
回答 2301_80303186
采纳率0%
  • 3

通义灵码contains invalid plugin descriptor

PyCharm安装 通义灵码 \lingma-jetbrains\lib\cosy-intellij-2.7.0.jar' contains invalid plugin descriptor

m1546674994
采纳率50%
  • 2

    回答

docker和GPU是啥关系

docker和GPU是啥关系？docker中部署ragflow，ragflow怎么弄成用GPU跑？

回答 cfchang
采纳率0%