苹果一家全资子公司正在悄悄做一个东西:让 Mac 不联网也能跑大模型。据 11 月 11 日披露,苹果全资子公司 Claris 正在测试一款叫 Harbor 的应用,搭载苹果芯片的 Mac 装上它,就能在本地直接运行大语言模型,敏感数据不用再送到云端去处理。
它还能多台机器一起干活。Harbor 支持用一根雷雳 5 线把多台 Mac 串成集群,跑更大的模型。这靠的是 macOS Tahoe 26.2 新加的雷雳 5 RDMA(远程直接内存访问)支持,多台设备组队之后,数据在机器之间搬运的速度快得多。应用会自动识别插上来的雷雳 5 设备,用户可以直接在里面浏览、下载开放权重的模型,全程不用手动配置,基本等于给 Mac 一键装上本地推理能力。
不过现在还摸不到。Harbor 目前处在早期体验阶段,没有对公众开放,它曾经短暂出现在 App Store 上,相关页面现在已经撤下。在云端 AI 用量越贵、隐私顾虑越来越大的背景下,苹果这是把自家的硬件变成可以随手拼装的本地算力池:办公室里闲置的那台 Mac,说不定就能变成一台省电、离线、数据不出门的私有 AI 盒子。
boxiyunAI的看法
- 这张牌打的是隐私和成本。企业最怕的就是数据出内网,云端 API 按量计费还越用越贵。本地跑模型把这两件事一起解决了,苹果手里有芯片、有系统、有装机量,做这件事的条件比谁都全。
- 雷雳 5 RDMA 是真正的关键拼图。单台 Mac 跑小模型早就不是新闻,难的是多机组网之后内存和算力能不能像一台机器一样调度。RDMA 进了 macOS 正式版本,说明苹果是在认真铺端侧集群这条路,不是做个演示。
- Claris 来做这事有点意思。这是苹果旗下偏软件业务的老牌子公司,让它先试水而不是苹果亲自下场,很像内部孵化:跑通了再并进主线,跑不通也不伤主品牌。
- 先别急着当生产力买设备。产品还没公开、连 App Store 页面都撤了,端侧模型的实际效果也要打问号。看它后续怎么和 macOS、和苹果芯片的新机器配合再下手不迟。
苹果的思路很清楚:AI 不一定要全搬到云上,用户手里的每一台 Mac 都可能是现成的算力。等 Harbor 这类能力正式开放,端侧 AI 的玩法会多出一个明显的分岔口——一部分场景留在本地,一部分交给云端,而不是像现在这样几乎全靠云。