用 llama.cpp Vulkan 构建在核显上跑本地小模型,独显留给转码
热点事件持续更新
用 llama.cpp Vulkan 构建在核显上跑本地小模型,独显留给转码
1 篇报道1 个报道来源13 小时前更新
先了解这件事
AI 综述
一位作者将配有 RTX 3050 Ti 移动版的旧 Acer Nitro 5 改作家庭服务器,用 llama.cpp 的 Vulkan 构建把 Liquid AI 的 LFM3-VL-2B 视觉语言模型完全跑在 Intel 核显上,RTX 独显则继续负责 Jellyfin 转码等任务。作者称,这样做可以让家人的手机银行流水、医疗报告等敏感文件不再上传 Gemini 或 ChatGPT,改为本地处理。这一做法展示了利用 llama.cpp 的 Vulkan 后端,在无独显参与的核显上运行小模型的可行路径,适合旧笔记本改造场景。
AI 根据报道生成 · 13 小时前更新
最新进展11月12日 20:30
在旧笔记本核显上跑本地小模型,独显留给其他任务报道时间线
沿着报道,了解事件的不同侧面。
11月12日
- XDA Developers在旧笔记本核显上跑本地小模型,独显留给其他任务
作者将一台配有 RTX 3050 Ti 移动版的旧 Acer Nitro 5 改作家庭服务器,用 llama.cpp 的 Vulkan 构建把 Liquid AI 的 LFM3-VL-2B 视觉语言模型完全跑在 Intel 核显上,让 RTX 显卡继续负责 Jellyfin 转码等任务,同时让家人的手机银行流水、医疗报告等敏感文件不再上传 Gemini 或 ChatGPT。
本事件热度走势
- 可比范围当前
- 7
- 可比范围峰值
- 1011月12日 21:00
- 近 24 小时变化
- –
02.557.510
22:0011月13日02:0004:0006:0008:00
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。