R9700、RTX 3060 与 RTX 3090 跑 Qwen：硬件搭配思路

大家觉得我的硬件怎样搭配最好？迷你主机（Bubblina）：oculink eGPU 接 R9700（32GB AMD）、64GB DDR5 —— 跑 Qwen3.8-27B Paiton-KV4-vision，262K 上下文，8 路并发。台式机（BM1）：Ryzen 5700G，目前是 RTX3060 12GB 加 GTX1660 6GB，64GB DDR4 —— 跑 Strata IQ2_XS，解锁 GPU 后速度出乎意料地快，但我不太敢……

对我这些硬件，怎样用最好？大家有什么想法？

迷你主机（Bubblina）：通过 oculink eGPU 接 R9700（32GB AMD），64GB DDR5 —— 跑 Qwen3.8-27B Paiton-KV4-vision，262K 上下文，8 路并发。

台式机（BM1）：Ryzen 5700G，目前是 RTX3060 12GB 加一块 GTX1660 6GB，64GB DDR4 —— 跑 Strata IQ2_XS，在 gpu-unlock 下速度出乎意料地快，但 agentic 任务我不太敢信，而且据我所知并发受限。GTX1660 专用于 TTS。

主服务器（Trogdor）：Ryzen 3950x，3 张 RTX3090，128GB DDR4（Unraid，大存储机器兼服务机）—— 媒体生产工厂（comfyui/媒体/视频/音频）。

目前我用迷你主机通过 hermes 调度 Trogdor 上的活儿。"给我画一张 X 的图，做一段 Y 的视频"，任务被分派给 Trogdor 上的各块 GPU。

我在琢磨把一张比较闲置的 3090 拿来当 Strata 的 GPU，从 12GB 升到 24GB，再把 3060 放进 Trogdor 干些小型 offload 任务。我主要想知道模型选择上有哪些路子、怎样搭配收益最好。

Agent/Hermes 工作受益于速度和工具调用。Strata QFN 跑文档/叙事/故事/聊天非常好，但我希望能用上它更可靠、更聪明的变体来做编码任务。

桌上的其他方案：把 R9700 从 oculink eGPU 挪到 BM1 的插槽（PCIe 3.0 x16），但那是 DDR4 平台，可能是白折腾。也可以把 3090 放到 eGPU 上，或者放 3060 做 offload 任务。又或者：3090 插 PCIe 3.0 x16、3060 插 PCIe 3.0 x4（芯片组）装在 BM1 上，给 Strata 当第二卡 offload？还可以走主插槽 bifurcation 的路线？

我基本是在边想边说、集中一下思路，欢迎建议 :)（除 R9700 外，上面这些东西大多是"艰难时期"之前两年多里收的二手）

来自 /u/k8-bit 的提交 [link] [comments]