跳到正文
XDA Developers· Samarveer Singh·· 13 小时前AI 评分64

在旧笔记本核显上跑本地小模型,独显留给其他任务

I run a small local model on my laptop's integrated graphics, so my dedicated GPU stays free for other work

AI 导读

作者将一台配有 RTX 3050 Ti 移动版的旧 Acer Nitro 5 改作家庭服务器,用 llama.cpp 的 Vulkan 构建把 Liquid AI 的 LFM3-VL-2B 视觉语言模型完全跑在 Intel 核显上,让 RTX 显卡继续负责 Jellyfin 转码等任务,同时让家人的手机银行流水、医疗报告等敏感文件不再上传 Gemini 或 ChatGPT。

来源:XDA Developers · xda-developers.com