10 月 27 日,Liquid AI 发布新一代基础模型系列 LFM3(Liquid Foundation Models)。据官方博客,文本、视觉、音频、全模态(omni)与决策模型这次共用一个新的 tri-hybrid 骨干,首发 6 个实例都在 2B 参数级上下;开放权重同日上架 Hugging Face 的 LiquidAI/lfm3 集合,也可经官方 Playground 与 Liquid API 调用。

公告帖于当天 17:07(UTC)发出。不到 15 分钟后,在 Hugging Face 做 Transformers.js 的工程师 Xenova(@xenovacom)发帖独立确认权重已可在 Hugging Face 下载,并演示了浏览器内经 WebGPU(浏览器 GPU 接口)用 Transformers.js 对本地视频实时打字幕。公告与博客里的跨模型对标、端侧吞吐数字,全部是 Liquid AI 自报口径。

Liquid AI 官方博客分享卡片:白底上的 Liquid 标识

图:Liquid AI 官方博客「Introducing LFM3」页面的社交分享卡片。

从文本到决策:各实例如何分工

此前 Liquid AI 的模态能力分散在不同系列:文本靠 LFM2 与 LFM2.5,视觉是 LFM2.5-VL,音频是 LFM2.5-Audio,决策是 d1 系列。LFM3 把五类模型放进同一次发布,且都从同一 LFM3-1.7B-Base 骨干分支特化而来;博客给出的用法是「挑贴合用例的那个,定制后放在端侧」,而不是跑一个大通用模型。

  • 文本 LFM3-1.7B:256K token 上下文,面向本地 agent(智能体)与专门应用,为 Hermes Agent、Pi、OpenClaw 等 agent harness(代理运行框架)做了后训练。模型卡标注 1.73B 参数、128,000 词表、BF16 权重与 LFM Open License v1.0 许可,4-bit 精度下约占 1 GB 内存。
  • 视觉 LFM3-VL-2B:LFM 视觉模型首次接受视频输入,回答前先逐步推理,并强调空间与具身推理。配套的自研视觉编码器仅 164M 参数,博客称算力为上代所用 SigLIP2 编码器的三分之一;处理视频时把相邻两帧联合嵌入,时间序列长度减半。
  • 音频 LFM3-Audio-2B:文本或音频输入,文本、语音或两者输出;覆盖 18 种语言的语音转写、合成与翻译,新增音频理解与工具调用。自研因果音频编码器支持边说边预填充(prefill),首字延迟(TTFT)最低 50 毫秒;新音频码本 LiquidCodec 在 Apple M4 Max 的单 CPU 线程上以约 87 倍实时速度把生成的 token 转回语音。
  • 全模态 LFM3-Omni-2B:2.2B 参数,是 Liquid AI 首个 omni 模型,把视觉、音频、语言放进一个模型,支持口头视觉问答、带同步音频的视频理解与多模态工具调用。
  • 决策 d1-2B 与 d1-Omni-2B:分别从视觉与 omni 模型特化,不写长答案,博客称「在毫秒级做出决定」:一次前向回答一批问题,每个答案带校准概率。这代新增四种有类型的答案(typed answers):point 在画面上框出目标并计数;read 从文档抽取文本、数字与日期并标注出处,字段不存在时直接答「未找到」;estimate 给出数值与可能区间;pick 多选并各带概率。d1-2B 取代上代 d1-3B,参数少三分之一;d1-Omni-2B 额外接受语音提问。

tri-hybrid 骨干:13 层卷积、5 层滑窗、6 层全局注意力

LFM2 已证明「短卷积 + 注意力」的混合结构能在端设备上跑得快,其结构出自 Liquid AI 的硬件在环(hardware-in-the-loop)架构搜索。博客称,这次用同一套搜索为 agent 场景重新设计骨干,这类用例要求每参数更高的能力、以及长上下文下的快速推理;搜索覆盖的硬件也从 LFM2 时的「一部手机加一台笔记本的 CPU」扩展到 14 种设备与后端组合,名单里有 Samsung Galaxy S26 Ultra、OnePlus 15、Raspberry Pi 5、Apple M4 Max、AMD Ryzen AI、Arm 与 x86 云端 CPU,以及 GPU 和 Qualcomm Hexagon NPU。

新的 tri-hybrid(三重混合)结构在 24 层里混用三种算子:13 层门控短卷积(卷积核从 LFM2 的 3 加大到 7)、5 层 256 token 窗口的滑窗注意力(SWA)、6 层全局注意力。卷积仍占一半以上层数,把其中一部分换成 SWA 是搜索给出的质量与速度最优解。另有三项改动:head-wise 门控注意力给每个注意力头接一个 sigmoid 门,没有贡献的头可以关掉,博客称这有助于压制伤害量化的激活离群值、改善训练稳定性;partial RoPE(部分旋转位置编码)让全局注意力层只旋转每个头里频率最高的一半维度,低频维度不论距离按内容匹配,SWA 层保留完整 RoPE;sandwich norm 在每个块的输入与输出端都做归一化。词表沿用 LFM2.5-8B-A1B 的 128K。

训练侧,LFM3-1.7B-Base 预训练 22 万亿 token,语料比 LFM2 多了科学论文、仓库级代码与数学;最后 3.5 万亿 token 是一个中期训练(mid-training)阶段,用更高质量的数据、更多 agent 轨迹与工具调用,把上下文窗口扩到 256K。后训练分四步:1.75 万亿 token 的监督微调(SFT)、混合强化学习、六个领域专家教师(代码、数学、工具使用、长上下文、agent 工作、企业工作流)的多域在策略蒸馏(MOPD),以及在真实 agent harness 里跑的 agentic RL(智能体强化学习)。

自报基准:与六倍大的对手对标

文本方面,LFM3-1.7B 自报 SWE-bench Verified(OpenCode harness)43.40 分,高于 Qwen3.5-4B 的 41.20,低于 Qwen3.5-9B 的 51.20;WebArena-Verified 38.42、BFCL V4 71.39,在自家对比表中领先其余全部对比模型;Terminal-Bench 2.1 自报 12.92,略低于 Qwen3.5-4B 的 13.48。知识是短板:Humanity's Last Exam 无工具 7.17 分,不到 Qwen3.5-9B(16.41)的一半,博客称联网检索可将其接近翻倍到 13.90。模型卡自己也写明:受限于体积,不建议用于 agentic coding 与复杂多步推理。

视觉方面,LFM3-VL-2B(1.9B 参数)自报 62 项视觉基准平均 71.4 分,称领先所有同规模模型至少 7.4 分;按其对比表,它与参数六倍以上的 Gemma 4 12B(71.7)相当,高于 Gemini 3.5 Flash Lite(70.0),距 GPT-5.6 Luna(73.4)差 2 分。公告帖的措辞更直接,称「LFM3-VL-2B 是个猛兽」。

音频方面,英文语音识别词错率(WER)自报 6.2,比上代 LFM2.5-Audio-1.5B 的 6.1 略高;VoiceBench 从上代的 55.2 升到 73.1,英文 TTS 的 UTMOSv2 得分 3.8。

端侧与吞吐数字同样出自厂商:在 llama.cpp 的 Q4_0 量化、32K 上下文下,LFM3-1.7B 自报为三台被测设备中最快,解码比第二名快 1.8~2.8 倍、内存占用最低;128K 上下文的 KV cache(键值缓存)为 1.6 GB,对比 Qwen3.5-4B 的 4.3 GB 与 MiniCPM5-2B 的 5.6 GB。服务器侧,单张 NVIDIA B300 用 SGLang 以 BF16 运行,自报每天可生成 36 亿 token(1,024 并发),博客还称用超过 30 万个并行 agent 跑完对安然(Enron)邮件档案的调查;LFM3-VL-2B 自报每秒生成超过 12,000 token。

Hugging Face 上的仓库、量化变体与确认时间线

Hugging Face 上的 LiquidAI/lfm3 集合目前有 7 个仓库:LFM3-1.7B-Base 加 6 个实例。除主权重外,文本与视觉模型提供 GGUF、ONNX、MLX、FP8、NVFP4 变体,音频与 omni 模型提供 GGUF、ONNX、MLX,两个决策模型提供 ONNX 与 MLX。截至 10 月 28 日抓取,LFM3-1.7B 已显示 6,311 次下载。

Xenova 的确认帖发于 17:22:28(UTC),紧随 17:07:45(UTC)发出的官方公告。这段浏览器内演示属运行验证,不是基准测试:它证明「下载权重、在消费级浏览器环境里跑通」这条链路当天已经打通,不涉及任何一项对标成绩。

博客列出的 day-0(发布日即可用)合作平台包括 Ambarella、AMD、Arm、Intel(经 OpenVINO)、NVIDIA、OpenRouter、Qualcomm(经 Qualcomm AI Hub 与 GenieX)和 Vercel;Mercedes-Benz 与 Shopify 参与了预发布测试与评估;构建者生态名单里有 Hugging Face、llama.cpp、LM Studio、MLX、Ollama、Unsloth、vLLM、ZML 等。截至 10 月 28 日抓取,公告帖已获约 29.7 万次浏览、1,616 次点赞。

单卡微调演示:风机叶片与机械臂

「面向专门智能」是这次发布的主打说法,博客用两个演示支撑。第一个把 LFM3-VL-2B 微调成风机叶片缺陷检查模型:用约 3,000 张公开照片(WTBs2025 数据集),在一块 A100 上以 SFT 加 GRPO 训练数小时,再在约 1,400 张留出照片上与原模型及 GPT-6 Luna 对比。开箱状态下,LFM3-VL-2B 与 GPT-6 Luna 正确识别这些缺陷类型的图片都不足 10%;短微调把分类准确率提到 67%,检测 F1 从 0.003 升到 0.11,而 GPT-6 Luna 为 0.01。对应的 LFM3 微调 notebook(lfm3_vl_sft、lfm3_vl_grpo、lfm3_audio、lfm3_omni 等)已在 Liquid4All/cookbook 仓库公开。

第二个方向是机器人,数字同样为博客自报的研究结果。机械臂编排:以 rank-32 LoRA 在约 4 万条样本上训练约 6 个 GPU 小时(单块 AMD Instinct MI325X),模型在 Isaac Sim 仿真里逐步推理、指向物体、用深度工具测量并操作,配合一个微调过的 d1-2B 技能监控器后,受扰恢复成功率翻倍。视觉语言导航:280 万样本、72 个 GPU 小时训练,在未见过的验证场景里自报 R2R 成功率 53%、RxR 43%;在 Jetson AGX Orin 上以 TensorRT FP16 超过 2.5 Hz 的频率更新航点。视觉-语言-动作(VLA)方向:15 种本体、170 个 GPU 小时训出的单一通用 checkpoint,自报在四个 LIBERO 套件平均成功率 96.2%、RoboCasa-GR1 桌面任务 45.7%;同一块 Jetson AGX Orin 上可在 50 毫秒内生成动作块。

博客里那些对标数字能否成立,要等独立跑分来回答;所需的权重与量化变体均已公开。

参考链接

本文由 AREX Agent 基于公开网络信源自动整合梳理。
AI 可能存在信息遗漏、时序偏差或事实误判。文中观点与事实请结合文末原始链接交叉核验,请勿直接作为决策依据。

内容中包含的图片若涉及版权问题,请及时与我们联系删除