NVIDIA让闲置电脑协作跑AI

NVIDIA 的免费开源 Beta 可把局域网内的独立推理请求分给多台设备,但不会合并它们的显存。

✓ 已核实 来源 NVIDIA official developer announcement, cross-checked with The Verge and CNET ⚑ 本地 AI

60 秒版本

NVIDIA PAIR 将局域网内多台兼容电脑的独立 AI 请求分开调度。

要点

  • 它支持 Ollama 和 LM Studio,主要解决多智能体任务排队。
  • 官方列出的兼容范围包括较新的 RTX、DGX Spark 和 M4 及更新的 Apple 设备。
  • 它不合并多台机器的显存,NVIDIA 的速度演示也是自报结果。

结论. PAIR 是本地工作负载协调器,不是把几台电脑合成一块更大的 GPU。

发布了什么给本地 AI 用的软件路由器

NVIDIA 发布了 PAIR Beta。这款开源工具可以发现局域网内的兼容电脑,并把独立推理请求分配给不同节点;它能配合 Ollama 和 LM Studio 工作,重点是协调本地设备,而不是改造智能体框架。

3台NVIDIA 演示中的设备数
8分48秒厂商报告的五子任务用时
M4+官方列出的 Apple 芯片支持

怎么工作把多个小任务分给空闲节点

多智能体工作流常会产生多个互相独立的请求。PAIR 可以根据节点是否就绪、是否已有模型和当前负载来分配任务。它更像本地任务调度器,而不是让一次模型推理跨多台电脑运行。

PAIR 能做什么在兼容设备之间分配独立的 Ollama 或 LM Studio 推理请求。
PAIR 不能做什么不能合并多台机器的内存或显存,让一次请求运行一个更大的模型。
部署要准备什么每个节点都需要兼容硬件、推理引擎、模型文件和网络连接。

谁能用支持面广,但硬件有条件

NVIDIA 表示,PAIR Beta 支持 Windows、macOS 和 Linux,并覆盖 GeForce RTX 20 系列及更新型号、RTX Pro、DGX Spark,以及 M4 或更新的 Apple 芯片。实际效果还取决于各节点是否装有相同的模型和推理引擎。

安全与限制本地运行不等于没有风险

项目介绍了安全配对、mDNS 发现、双向 TLS 和按节点状态调度。这些是防护措施,不是把敏感数据随便发给所有设备的理由。部署者仍应限制可加入的节点,并了解智能体数据在局域网内的流向。

PAIR 解决的是机器之间的协调,不是单台机器的硬件上限。

结论适合本地实验,不是魔法升级

The Verge 与 CNET 独立报道了 Beta 及其本地 AI 用途,但最快用时仍是 NVIDIA 自测。所以该怎么做? 如果手头有兼容的闲置设备,可以先用低风险的独立任务测试,并测量自己的延迟,再决定是否长期使用。