Raspberry Pi News· Ashley·· 11 天前精选AI 评分73
使用14MB函数调用模型Needle将文本转换为Raspberry Pi本地操作
Turn text input into actions with Needle, a 14MB function-calling LLM
AI 导读
Cactus Compute 展示了 Needle 2 如何在 Raspberry Pi 5 仅使用 CPU 将英文指令转换为本地 Python 操作。示例中“Turn the LED on”在 78 毫秒后点亮 LED,完整进程占用峰值 43MB 至 46.4MB;模型权重和代码以 Apache 2.0 许可发布。
推荐理由
文章提供可复现的 Raspberry Pi 5 CPU 端函数调用示例、Python 接口和性能数据,能帮助开发者评估小模型执行本地工具调用的可行性。
来源:Raspberry Pi News · raspberrypi.com