跳到正文
原文
Raspberry Pi News· Ashley·· 11 天前精选AI 评分73

使用14MB函数调用模型Needle将文本转换为Raspberry Pi本地操作

Turn text input into actions with Needle, a 14MB function-calling LLM

AI 导读

Cactus Compute 展示了 Needle 2 如何在 Raspberry Pi 5 仅使用 CPU 将英文指令转换为本地 Python 操作。示例中“Turn the LED on”在 78 毫秒后点亮 LED,完整进程占用峰值 43MB 至 46.4MB;模型权重和代码以 Apache 2.0 许可发布。

推荐理由

文章提供可复现的 Raspberry Pi 5 CPU 端函数调用示例、Python 接口和性能数据,能帮助开发者评估小模型执行本地工具调用的可行性。

来源:Raspberry Pi News · raspberrypi.com