小众软件· 青小蛙·· 12 小时前AI 评分56
苹果 Harbor 应用曝光:Thunderbolt 5 连接多台 Mac 协同运行本地大模型
苹果新应用 Harbor 曝光:插线连接多台 Mac,一起运行本地大模型
AI 导读
据 X 用户 @Aaron 爆料,苹果正在开发名为 Harbor 的应用,用于将搭载 Apple Silicon 的 Mac 变成私有 AI 推理服务器。应用可在本地运行开放权重模型,通过 Thunderbolt 5 自动发现并组建多机集群,利用多台 Mac 内存运行单机容纳不下的大模型。目前 Harbor 以苹果旗下 Claris 品牌处于私人预览阶段,类似能力此前已有开源项目 exo 实现。
来源:小众软件 · appinn.com