为女朋友打造的 llama.cpp 图形化管理工具 Pumpkin：效果不错，已放上 GitHub

女友因隐私需求要用本地模型但完全不会用终端，作者为此做了一个一体化图形管理器：自动检测硬件、下载合适的 llama.cpp 构建并挑选适配 GPU 与内存的量化，约 5 分钟即可跑起来；还能识别 LM Studio 与 Ollama 的既有模型，附带联网搜索、工具、MCP、skills、编码 Agent、文生图与手机端使用。

正如标题所说：我女朋友出于隐私考虑需要一个本地模型，但她的终端技能……约等于零，于是我做了一个一体化的 llama.cpp 图形化管理器，大约 5 分钟就能装好跑起来。自我感觉做得相当不错，就放上了 GitHub。我觉得它能帮到两类人：刚入门、从没碰过终端的，以及想要一个附带额外能力的一体化模型管理器的。

Pumpkin 会检测你的硬件，下载合适的 llama.cpp 构建，并挑选一个适配你 GPU 和内存的量化版本——点几下就能从安装走到模型运行。它能找到你已有的 LM Studio 和 Ollama 模型，提供带联网搜索、工具、MCP 服务器、Claude 式 skills 的聊天，以及 GitHub、Notion、Git、Postgres 等连接器。Pumpkin Code 是一个编码 Agent，在你指定的文件夹里工作，改文件或跑命令前可以先征求你的同意。你可以就自己的文档提问，甚至给看不了图的模型附上图片（先由一个小视觉模型描述）。它还能通过 stable-diffusion.cpp（需额外安装）生成图片和短视频，并支持在手机上使用。

目前是很早期的版本，我的测试大多在 Ubuntu 和 Mac 上。Windows 和 Android 能跑，但我缺相应硬件、没认真试过，粗糙之处应该集中在这两端。非常希望听到大家反馈哪里出了问题。

项目地址：https://github.com/geobellingham/pumpkin

免责声明：项目开源，我也不打算靠它赚钱。发这个帖子是因为真心觉得它会对你们中的一些人有用 :)

submitted by /u/gbolgurov [link] [comments]