LiquidAI 发布 LFM3-1.7B：面向本地 Agent 与专用应用的 1.7B 文本模型
LiquidAI 推出基于全新 tri-hybrid 架构的 LFM3-1.7B 文本模型，面向本地 Agent 与专用应用：针对 Hermes Agent、Pi、OpenClaw 等 Agent 框架做过后训练，支持 256K tokens 上下文，4-bit 精度下仅需约 1 GB 内存；llama.cpp 支持已合并。
https://huggingface.co/LiquidAI/LFM3-1.7B-GGUF，来自 liquidAI：LFM3-1.7B 是一款面向本地 Agent 与专用应用的文本模型，基于我们全新的 tri-hybrid 架构。
Agentic 训练：针对 Hermes Agent、Pi、OpenClaw 等 Agent 框架做过后训练（post-training），支持 256K tokens 上下文窗口。
为边缘设备而生：4-bit 精度下仅占约 1 GB 内存，任何手机或笔记本都装得下。
为专精而生：通过快捷的单卡微调，把模型适配到你的领域、格式和工具上。
更多 LFM3 家族信息见我们的发布博客。
模型详情
LFM3 家族包括 base、text、vision、audio、omni、decision 等模型。
属性 | 规格
检查点：后训练过的纯文本语言模型
参数量：1.73B
架构：24 层——13 层门控短卷积、5 层滑窗注意力、6 层全局注意力
上下文长度：256K tokens（输入 + 输出）
词表：128,000 tokens
语言：英语、阿拉伯语、中文、法语、德语、意大利语、日语、韩语、葡萄牙语、西班牙语、越南语、泰语、印尼语、印地语、俄语、波兰语
许可证：LFM Open License v1.0
LFM3-1.7B 定位于本地 Agent、工具调用、结构化输出和领域微调。知识密集型任务请配合检索或搜索使用。受限于体积，不建议用于 agentic 编码或复杂的多步推理。
今天还有更多 LFM3 可以玩：（我本来只想发两个帖子，结果他们一口气发了六个模型）
https://huggingface.co/LiquidAI/LFM3-VL-2B
https://huggingface.co/LiquidAI/LFM3-VL-2B-GGUF
LFM3-VL-2B 是一款面向端侧视觉理解的视觉语言模型，输入支持文本、图像和视频，由 LFM3 语言模型加一个全新的自研视觉编码器组成。
LFM3-VL-2B 的新东西：
视频理解：首个接受视频输入的 LFM 视觉模型。可以就一段录播课程、手机拍的演示视频或监控画面片段提问。
思考：模型会先一步步推理再作答。对更难的视觉问题（数学、图表、多步问题）帮助最大。
空间与具身推理：模型能找到物体并推理它们之间的相对位置关系，为机器人应用打下扎实基础。
https://huggingface.co/LiquidAI/LFM3-Audio-2B
LFM3-Audio-2B 是一个能在笔记本和边缘设备上本地运行的紧凑型全功能音频模型。它以文本或音频为输入，以文本、语音或两者兼有的方式回应。
语音对话：开口提问，即可收到文本与语音的流式回复；若只要文本回复，模型也能先推理再作答。
多语言语音：支持 18 种语言的语音转写、合成与翻译。
音频理解与推理：解读录音，回答其中语音、声音和事件相关的问题。
工具调用：把口头请求变成工具调用，去操控应用和设备，调用同时可附带文本或语音。
LFM3-Audio-2B 引入了自研音频编码器和 LiquidCodec 音频 tokenizer，语音质量较 LFM2.5-Audio 有所提升。
https://huggingface.co/LiquidAI/LFM3-Omni-2B
LFM3-Omni-2B 是 Liquid AI 在 LFM3 家族中的首款全模态模型：单一端到端模型即可理解文本、图像、视频和音频，并以文本和语音作答。它为端侧使用而设计：一个模型取代独立的 ASR、视觉语言模型、LLM 和 TTS。
任意输入，文本或语音输出：语音问照片、转写或翻译语音、开口聊天，或同时对视频画面与其配乐提问。
边看边听：对带声音的视频，模型同时看画面和听音轨，因此能回答需要两者结合的问题。
小到能进设备：2.2B 参数，专为在手机、笔记本等边缘硬件上高效运行而设计。
https://huggingface.co/LiquidAI/d1-Omni-2B
d1-Omni-2B 是构建在 LFM3-Omni-2B 之上的决策模型，处理文本、图片和音频。它一次前向传播即返回校准过的答案，无需生成 tokens。
原生音频：音频片段和口头提问与文本、图片走同一前向通路；在未见任务上，口头提问的得分与书面提问相差不到 0.5 分。
不止分类：它还能带位置地抽取文本、数字和日期，定位图片中的物体，并以区间估计数量。
毫秒级决策：NVIDIA H100 上每次决策 5.8 ms，AMD MI325X 上 3.7 ms；处理 10 秒音频片段时分别为 12.4 ms 和 8.2 ms。
https://huggingface.co/LiquidAI/d1-2B
d1-2B 是构建在 LFM3-VL-2B 之上的决策模型，处理文本、图片和视频。它一次前向传播即返回校准过的答案，无需生成 tokens。
同类最佳：在开放 d1 模型中，它的平均成绩和百多个决策基准的总榜均居首位，以不到 d1-3B 三分之二的体积领先于后者。
不止分类：它还能带位置地抽取文本、数字和日期，定位图片中的物体，并以区间估计数量。
毫秒级决策：NVIDIA H100 上每次决策 5.7 ms，AMD MI325X 上 3.8 ms；单次调用内可对同一状态提任意多个问题。
https://huggingface.co/LiquidAI/LFM3-1.7B-Base
LFM3-1.7B-Base 是 LFM3-1.7B 背后的预训练检查点——同样基于全新 tri-hybrid 架构、面向本地 Agent 与专用应用的文本模型。
预训练 22T tokens：最后 3.5T tokens 是精选的中期训练数据，含 agentic 轨迹与工具调用，并把上下文窗口扩展到 256K tokens。
为边缘设备而生：4-bit 精度下仅占约 1 GB 内存，任何手机或笔记本都装得下。
为专精而生：可作为继续预训练和你自己的后训练的起点。
llama.cpp 支持已合并：
https://github.com/ggml-org/llama.cpp/pull/31257
https://github.com/ggml-org/llama.cpp/pull/31252
https://github.com/ggml-org/llama.cpp/pull/31275
submitted by /u/jacek2023 [link] [comments]