跳到正文
热点事件持续更新

用 llama.cpp Vulkan 构建在核显上跑本地小模型,独显留给转码

1 篇报道1 个报道来源13 小时前更新

先了解这件事

AI 综述

一位作者将配有 RTX 3050 Ti 移动版的旧 Acer Nitro 5 改作家庭服务器,用 llama.cpp 的 Vulkan 构建把 Liquid AI 的 LFM3-VL-2B 视觉语言模型完全跑在 Intel 核显上,RTX 独显则继续负责 Jellyfin 转码等任务。作者称,这样做可以让家人的手机银行流水、医疗报告等敏感文件不再上传 Gemini 或 ChatGPT,改为本地处理。这一做法展示了利用 llama.cpp 的 Vulkan 后端,在无独显参与的核显上运行小模型的可行路径,适合旧笔记本改造场景。

AI 根据报道生成 · 13 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月12日
  1. XDA Developers
    在旧笔记本核显上跑本地小模型,独显留给其他任务

    作者将一台配有 RTX 3050 Ti 移动版的旧 Acer Nitro 5 改作家庭服务器,用 llama.cpp 的 Vulkan 构建把 Liquid AI 的 LFM3-VL-2B 视觉语言模型完全跑在 Intel 核显上,让 RTX 显卡继续负责 Jellyfin 转码等任务,同时让家人的手机银行流水、医疗报告等敏感文件不再上传 Gemini 或 ChatGPT。

本事件热度走势

可比范围当前
7
可比范围峰值
1011月12日 21:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。