跳到正文
原文
Hugging Face Blog·· 2 小时前精选AI 评分70

Liquid AI 发布 LFM2.5-24B-A2B 端侧智能体模型

Run fast, private agents on-device with LFM2.5-24B-A2B

AI 导读

Liquid AI 发布 LFM2.5-24B-A2B,这是一款总参数量 24B、每个 token 激活 2B 参数的端侧推理模型。它将上下文窗口扩展至 131K,并开放模型权重;官方称其可在 M5 Max 上达到 184 tokens/s,在单张 B300 上高并发输出超过 21K tokens/s。

推荐理由

同时披露模型架构、推理吞吐、基准成绩及本地接入方法,便于端侧智能体开发者评估硬件需求并完成部署验证。

来源:Hugging Face Blog · huggingface.co