编辑部快讯
第 2520 号 · 2026-10-27 · 晚间版

US 美国10-27 23:53⏱ 2 分钟

llama.cpp b11934:加速测试中的张量数据生成与模型保存

llama.cpp b11934:加速测试中的张量数据生成与模型保存

本版集中优化测试工具链:save_models 只创建模型而不再构建多余的 llama_context,用 splitmix64 + Box-Muller 取代缓慢的 std::normal_distribution 抽样,并改为共享抽样池、增加保存体积日志;发布说明另附各平台构建产物清单与公证信息。

tests:加速张量数据生成与模型保存(#31145)

tests:加速张量数据生成与模型保存

重构 save_models,只创建模型本身,不再创建保存时用不到的 llama_context。

用 splitmix64 + Box-Muller 正态生成器取代缓慢的 std::normal_distribution 抽样。

Assisted-by: dsh:llama.cpp/ggml-org/DeepSeek-V4-Flash-Vision-Exp-GGUF (Mac Studio, M2 Ultra, 192GB)

tests:为张量数据改用共享正态抽样池

用 std::mt19937 与 std::normal_distribution 一次性生成一个正态抽样池,每个张量循环复制其中一段切片,而不再各自跑一遍 box-muller。按名称选取切片,保证抽样结果确定。

Assisted-by: dsh:llama.cpp/ggml-org/DeepSeek-V4-Flash-Vision-Exp-GGUF (Mac Studio, M2 Ultra, 192GB)

tests:记录已保存模型的大小

每次保存后以字节和 MB 报告生成的文件大小。

Assisted-by: dsh:llama.cpp/ggml-org/DeepSeek-V4-Flash-Vision-Exp-GGUF (Mac Studio, M2 Ultra, 192GB)

tests:简化模型保存日志

把模型名、目标位置和大小合并成每个模型一行的日志。

Assisted-by: dsh:llama.cpp/ggml-org/DeepSeek-V4-Flash-Vision-Exp-GGUF (Mac Studio, M2 Ultra, 192GB)

网站:https://llama.app

Attestations(构建公证):https://github.com/ggml-org/llama.cpp/attestations/60447535

发布说明另附 macOS/iOS、Linux、Android、Windows、openEuler 各平台构建产物清单与公证信息。

本页为站内快照,仅作聚合阅读;内容来自公开网络,版权归原作者所有。