Hugging Face Blog·· 2 小时前精选AI 评分70
Liquid AI 发布 LFM2.5-24B-A2B 端侧智能体模型
Run fast, private agents on-device with LFM2.5-24B-A2B
AI 导读
Liquid AI 发布 LFM2.5-24B-A2B,这是一款总参数量 24B、每个 token 激活 2B 参数的端侧推理模型。它将上下文窗口扩展至 131K,并开放模型权重;官方称其可在 M5 Max 上达到 184 tokens/s,在单张 B300 上高并发输出超过 21K tokens/s。
推荐理由
同时披露模型架构、推理吞吐、基准成绩及本地接入方法,便于端侧智能体开发者评估硬件需求并完成部署验证。
来源:Hugging Face Blog · huggingface.co