記事一覧へ戻る

Thinking Machines、ローカル実行を狙う「Inkling 2 Mini」を公開

読了目安 3 分

Thinking Machines Labは、エージェント型コーディングの能力をローカル端末に持ち込むことを目指すオープンウェイトモデル「Inkling 2 Mini」を公開した。同社によると重みの容量は約20GBで、一部のノートPCやデスクトップ型AI端末で実行できる。研究者が、ネット接続を切ったMacBook Pro上でプレイ可能なフライトシミュレーターを作成したデモも紹介された。ただし、これはローカル実行の一例であり、すべてのノートPCで同等の速度や使い勝手が得られることを示すものではない。

主なポイント

  • 中間層を繰り返し計算する設計。 Inkling 2 Miniは循環型Transformerで、各トークンの処理にあたり中間層を3回実行する。Thinking Machinesは、推論のすべてを文章として出力せずに追加計算を行え、タスク完了に必要な出力トークン数を抑えられると説明している。
  • 総パラメーター数と実際の計算量は異なる。 総パラメーター数は264億で、混合エキスパート構成を採用する。各トークンで有効になるパラメーターは約34億、ループを考慮した重みの活性化量は約54億と同社は公表した。重みの大部分はNVFP4で学習・提供され、最後の4層にはMXFP8が使われている。これらは約20GBという重み容量を実現する要素だ。
  • 強みはコーディングとツール利用。 同社の公表値では、DeepSWE v1.1で48.2%、Vals Index v2.2で46.5%を記録した。また、同程度の規模のオープンウェイトモデルと比べ、検索やツール利用の複数の評価で首位だったとしている。ただしモデルごとに評価条件は異なるため、これらは企業発表の数値として受け止め、単純な同条件比較とみなさないことが重要だ。
  • ループには限界があり、監視の論点もある。 研究用の可変ループ版も同時に公開された。同社の実験では、反復回数を増やすと一部の長文脈・逐次推論タスクは改善した一方、知識を問う評価では効果が限られた。ループ増加に伴い思考過程のテキストは短くなったが、判読性は保たれたと報告。また、エージェントによるサボタージュのテストで、ループ増加に応じて悪化する傾向は見られなかったという。これは特定の実験結果であり、あらゆる利用環境に一般化できるとは限らない。

意義と影響

この発表の注目点は、パラメーター数だけでなく、反復計算、低精度の重み、混合エキスパートを組み合わせ、限られた端末メモリーで複雑なタスクを処理しようとする点にある。オープンウェイトとローカル推論は、開発者がモデルを試したりカスタマイズしたりする余地を広げる。モデルの大型化だけに頼らない能力向上の手法としても、循環型アーキテクチャは注目に値する。

一方、「ノートPCで動く」かどうかは、搭載メモリー、ソフトウェア、推論設定に左右される。重みが20GBでも、実行時に必要なメモリーが20GBだけとは限らない。現時点の性能主張は主に同社が公表したベンチマークに基づいており、独立した再検証が待たれる。反復計算は複数段階のタスクに役立つ可能性があるが、知識不足を補う検索の代わりにはならず、モデルの監視課題を単独で解決するものでもない。

出典:Web Search

コメント

ログイン状態を確認中…

コメントを読み込み中…

関連記事

CCTest · Blog
Tencent、Hy4の重みを公開 7700億パラメーターのMoEモデル
モデルリリース
cctest.ai
モデルリリース

Tencent、Hy4の重みを公開 7700億パラメーターのMoEモデル

Tencent混元はHy4のモデル重みとシステムカードを公開し、マルチモーダル機能や疎注意機構、評価結果を説明した。総パラメーター数は7700億で、トークンごとの活性化数は490億、公式仕様上のコンテキスト長は104万8576トークンとなる。

続きを読む
CCTest · Blog
Gemini 4 Hydrogen発表、高速な実行型AIエージェントを狙う
モデルリリース
cctest.ai
モデルリリース

Gemini 4 Hydrogen発表、高速な実行型AIエージェントを狙う

Google DeepMindが、日常的なコーディングやツール利用、エージェント型ワークフロー向けのGemini 4 Hydrogenを発表した。100万トークン級のコンテキストと4段階の思考レベルを備え、速度と運用コストの両立を目指す。

続きを読む
CCTest · Blog
Gemini 4 Carbon公開、深い推論とマルチエージェント協業を強化
モデルリリース
cctest.ai
モデルリリース

Gemini 4 Carbon公開、深い推論とマルチエージェント協業を強化

Google DeepMindがGemini 4 Carbonを開発者、企業、研究者、一般利用者向けに公開した。複雑なコーディング、科学研究、サイバーセキュリティ、長時間のエージェント作業を主な対象とする。

続きを読む