跑在手机、电脑与边缘设备上的 AI：小模型、本地推理与端侧芯片的进展。
Liquid AI 为视觉语言模型 LFM2.5-VL-3B 发布实验性 DSpark 草稿模型，通过投机解码在不改变输出质量的前提下加速推理。解码最高提速 3.13x（M5 Max 端侧）和 2.66x（H100），端到端最高提升 2.62x 和 2.27x；草稿模型增加 280M 参数（约 8.9%），首日支持 llama.cpp、MLX-VLM 和 SGLang。
推荐理由：原文给出视觉语言模型投机解码加速的具体数字、内存开销和第一天框架支持，读者可以据此评估端侧与 GPU 部署收益。
Hugging Face 宣布 transformers 新增 GGUF 模型运行支持，通过 from_pretrained 传入 gguf_file 即可加载 Hub 上的量化 checkpoint，在 Apple Silicon 上本地生成。
推荐理由：官方给出了从加载、量化选择到与 llama.cpp 对比的完整路径，读者可以直接上手在 Mac 本地跑 GGUF。
Liquid AI 为 LFM2.5-1.2B-Instruct、LFM2.5-2.6B 和 LFM2.5-8B-A1B 三个模型发布 DSpark 草稿模型检查点，通过投机解码在不改变输出质量的前提下提升解码速度。
推荐理由：原文给出三类模型的加速数字、质量不变的原理和 llama.cpp、SGLang 的接入命令，读者可据此评估端侧与 GPU 推理收益。
Google DeepMind 发布 Gemma 4 12B，可在 16GB 内存或显存的笔记本本地运行，性能接近其 26B MoE 模型但内存占用不足一半。该模型采用无编码器统一架构，视觉与音频输入直接进入 LLM 主干，是首个支持原生音频输入的中等规模 Gemma 模型，以 Apache 2.0 许可发布，并同步推出官方 Skills 仓库。
推荐理由：原文来自官方发布，给出架构细节、内存门槛和下载入口，可帮助读者评估在本地设备运行多模态模型的可行性。
Mistral 发布新一代模型系列 Mistral 3，包含 Mistral Large 3（41B 激活、675B 总参数的 MoE）以及 3B、8B、14B 三档 Ministral 3 模型，全部以 Apache 2.0 许可开源。
推荐理由：官方一次放出 675B MoE 旗舰与三档小模型，全部 Apache 2.0 开源并给出部署路径，适合评估开源选型空间。