平頭哥がT-Head SAILを拡張開放、中国AIチップ競争はソフトウェアへ
導入
AIチップの競争軸は、ピーク性能だけでは測れなくなっている。企業にとって重要なのは、長年蓄積したモデル、コード、運用ノウハウを新しいチップへどれだけ無理なく移せるかだ。アリババの半導体部門である平頭哥は、真武V900の発表に続き、真武向けソフトウェアスタック「T-Head SAIL」の開放範囲を拡大した。これは、チップの納品からソフトウェアエコシステムの共構築へ進む動きといえる。
公開範囲の拡大
T-Head SAILは、PyTorchなどの上位フレームワークと真武ハードウェアの間をつなぐソフトウェア層だ。モデル移行、コンパイルと実行、演算子の高速化、通信、性能分析、デバッグを支える。これまでSDK、ドライバー、分析ツール、技術文書などが提供されていたが、今回さらに次のプロジェクトが開放された。
- フレームワーク適応を担うPyTorch-for-sail
- 既存ソースコードの移行を支援するsailify
- 演算子開発向けのTriton-for-sail
- 計算高速化を担うDeepGEMM-for-sailとFlashAttention-for-sail
今後はTensorFlow、JAX、自社推論エンジン、PCCLやDeepEP-for-sailなどの通信コンポーネントにも対応を広げる予定だ。
最初の課題は移行コスト
推薦、運転支援、大規模モデルの推論などを本番環境で運用する企業にとって、チップの変更は単純な交換ではない。既存コードは何度も改修され、開発チームは従来の環境に合わせた調整方法を身につけている。フレームワーク対応、ソース移行ツール、複数の演算子開発手段を用意することで、過去の資産を残しながら真武向けの修正を加えられる。
ただし、モデルが動くだけでは不十分だ。処理速度が遅く、メモリや計算資源を多く使うなら、本番採用は難しい。アクセラレーションライブラリや実装の一部が公開されれば、顧客は自社の負荷に合わせてボトルネックを調べ、コードやカーネルを自ら改良できる。すべての問題をチップメーカーへ戻す必要がなくなる点が大きい。
顧客が開発者になる
素材によると、真武AIチップは20以上の業界、650社以上の顧客に利用されている。小鵬はGPU環境で動かしていた業務モデルを真武のクラウドクラスターへ移し、性能分析ツールを使って訓練のボトルネックを調べた。アントグループは主要モデルの推論適応、量子化、並列実行などを進めている。小紅書はさらに一歩進み、SAILのコードを基にモデル移行と演算子最適化を支援するエージェントを開発した。
これは、オープンソースが単なるダウンロード窓口ではないことを示している。企業は自社のモデル知識や業務要件を内部ツールに組み込める。機密性の高いアルゴリズムは社内に残し、汎用的な改善はコミュニティへ還元できるため、知的財産を守りながら最適化に参加しやすい。
長期的な運営が焦点
実利用者とフィードバックが増えた段階でコードを広く開くことは、ソフトウェアの成熟度を高めるうえで合理的だ。また、PyTorch、Triton、vLLMなどの上流コミュニティへ改良を戻せれば、独自版と主流版の差分を減らし、新モデルへの対応も早められる。
一方、開放は作業の終了ではない。コンポーネント分割、テスト、バージョン管理、コードレビュー、文書化、コミュニティ運営には継続的な投資が必要だ。T-Head SAILが一度限りの公開ではなく、開発者が移行し、最適化し、改善を共有する持続的なネットワークになれるかが、今後の評価点になる。
出典:量子位
コメント
ログイン状態を確認中…
コメントを読み込み中…