NVIDIA、余ったPCをプライベートAIクラスターにするPAIRを公開

概要

NVIDIAは、Personal AI Router、略称PAIRというオープンソースソフトウェアを公開しました。家庭や小規模な作業環境では、AI処理に使えるコンピューターが複数台あっても、それぞれが独立して動作していることがあります。PAIRはローカルネットワーク内で対応機器を検出し、それらを接続してローカルAI推論に利用することを目指します。

主なポイント

• LAN内の機器を検出。 同じネットワークにある対応コンピューターを探し、複数台を使う際の手作業を減らします。
• ローカル推論を想定。 接続されたマシンを使って、AIモデルの推論をローカル環境で実行します。
• 既存ツールと連携。 OllamaとLM Studioを基盤となるツールチェーンとして利用します。すでにこれらを使っている開発者は、既存の環境を大きく変えずに複数台構成を試せます。
• 対応機器はNVIDIA製品が中心。 GeForce RTX 20シリーズ以降、RTX Pro、DGX Sparkが対象に含まれます。Apple M4以降のチップを搭載した機器も参加できます。
• オープンソースで提供。 個人が持つ複数の機器を使ったAI環境を、開かれたソフトウェアで試せる点が特徴です。

意味と今後の影響

PAIRの意義は、分散している個人の計算資源を一つの利用環境にまとめようとしている点にあります。これまでは各PCでモデルサービスを個別に起動し、どのマシンで処理するかを利用者が判断する必要がありました。LAN上で機器を検出して接続できれば、使われていないGPUや対応チップをローカルAIのために活用しやすくなる可能性があります。

OllamaやLM Studioとの連携も現実的な選択です。まったく新しいモデル提供基盤への移行を求めるのではなく、ローカルモデルの実験で知られるツールと組み合わせることで、導入時のハードルを抑えています。クラウドへの依存を減らし、データを自分の環境で扱いたい利用者にとっては注目できる方向性です。

一方、提供された情報には性能測定、対応モデルの詳細、具体的な導入手順は含まれていません。複数台構成でどの程度効率が向上するかは、ハードウェアの組み合わせやネットワーク、モデルの要件に左右されるでしょう。PAIRは、家庭の余剰計算資源を私有AIクラスターとして使う考えを、試せるソフトウェアの形にした取り組みといえます。

出典：OSChina