llama.cpp b11928 新增 MiniCPM-OCR-Jev 模型支持(#30980)
model:新增 MiniCPM-OCR-Jev( #30980 )。model:新增 MiniCPM-OCR-Jev 支持。该模型是 Qwen3.5-VL 主干,在最后一个 token 处读取价值头:它对 OCR 文本与其渲染出的图像打分,不生成内容。新增 openbmb-minicpm-ocr-jev 决策类型,由 POST /v1/systemone 提供服务。类别分数……
model:新增 MiniCPM-OCR-Jev( #30980 )
model:新增 MiniCPM-OCR-Jev 支持
该模型是 Qwen3.5-VL 主干,在最后一个 token 处读取价值头(value head):它对一个 OCR 文本与其渲染出的图像进行打分,并不生成内容。新增 openbmb-minicpm-ocr-jev 决策类型,由 POST /v1/systemone 提供服务。类别分数是序列的池化输出,以 last 方式池化读取,因此转换时将 score.weight 转为 cls.output 并设置 embedding_length_out。该 checkpoint 没有 LM head,因此文本生成请求会被拒绝,而不会使用从 token embeddings 复制来的输出权重。该任务是固定的,因此其提示词完全放在 systemone 模板中,与 h2o-lightning 把默认提示放在那里的做法一致。该 checkpoint 的处理器允许每张图像最多 16384 个合并 token,多于 mtmd 的 Qwen-VL 默认值,因此 mmproj 保留预处理器配置中的图像预算。该 checkpoint 在 config.json 中声明 MiniCPMOCRForSequenceClassification,与其他模型一致。
Signed-off-by: tc-mb tianchi_cai@icloud.com
修复代码
Signed-off-by: tc-mb tianchi_cai@icloud.com
使用 gguf 元数据 classifier_output_labels
移除冗余代码改动
Signed-off-by: tc-mb tianchi_cai@icloud.com
Co-authored-by: Xuan Son Nguyen son@huggingface.co
Website: https://llama.app
Attestations: https://github.com/ggml-org/llama.cpp/attestations/60366505
发布说明另附各平台构建产物清单。