流
LFM2.5 WebGPU 推理
LFM2.5 利用 WebGPU 标准，实现浏览器原生的 24B+ 参数模型推理，通过客户端计算降低硬件依赖。
信号 (Signal) 2026 年 3 月 B 站视频报道记录了 LFM2.5 模型使用 WebGPU 技术的部署。该信号强调了在显存小于 16GB 的硬件上运行 24B 和 35B 参数模型的能力，无需安装本地软件或专用显卡。内容引用了 LiquidAI 的生态系统，并提及了 drawio-skill 和 OpenPencil 等工具以用于集成工作流。
背景 (Context) 传统的本地推理 (Local Inference) 严重依赖 CUDA 核心和大量显存容量，往往需要专用硬件。WebGPU 提供了标准化的 API，用于直接在浏览器中进行高性能图形和计算任务。该信号表明了一种硬件无关推理 (Hardware-agnostic Inference) 的转变，其中浏览器运行时成为主要的执行环境，将模型能力与本地物理规格解耦。
关联 (Relevance) 本条目通过展示推理作为普通网络基础设施的路径，映射到本地推理作为基线的回路 (Local Inference as Baseline Circuit)。它通过移除对特定 GPU 驱动或高端消费级硬件的要求，降低了本地 AI 操作的入门门槛。该技术支持开放权重通用回路 (Open Weights Commons Circuit)，使模型执行更加可访问且减少了对专有云 API 的依赖。
当前状态 (Current State) 该技术处于早期采用阶段，主要通过视频文档而非广泛的生产用例进行演示。性能优化侧重于内存管理，以适应受限的浏览器上下文中的大型模型。兼容性目前仅限于支持 WebGPU 执行所需的量化和分片方法的特定模型架构。
开放问题 (Open Questions) 在浏览器环境中执行不可信模型权重的安全模型需要进一步标准化。基于浏览器的推理堆栈的长期维护取决于各厂商对 WebGPU 规范更新的一致性。与原生运行时执行相比的性能开销仍是一个变量，具体取决于特定的硬件和浏览器实现。
连接 (Connections) 本条目作为更广泛基础设施目标的具体技术实现，连接到本地推理基线回路 (Local Inference Baseline Circuit)。它与 lm-studio 相关，作为本地推理的竞争性界面，主要在运行时环境上有所不同。内存优化技术与 airllm 在低资源硬件上运行大型模型的方法并行。capsule 提供了运行时隔离的概念平行，尽管 WebAssembly 和 WebGPU 之间的执行上下文不同。
译注 本条目中的“回路 (Circuit)"并非指物理电路，而是指知识网络中闭合且稳定的模式。在 Openflows 的语境下，它代表了某种实践或基础设施的完整形态。此处“模型 (Model)"特指 AI 模型，而非通用形态。