Meta、ローカル実行向け30BオープンウェイトAI「Muse Glimmer」を公開
Metaは、300億パラメータの新しいオープンウェイトAIモデル「Muse Glimmer」を公開した。クラウドですべての処理を行うのではなく、パーソナルコンピューターやワークステーション上でエージェント型ワークロードをローカル実行することを想定している。
今回の重要点は、比較的コンパクトなdenseアーキテクチャに、オープンウェイト、長いコンテキスト、エージェント向け機能を組み合わせたことだ。開発者は、多段階推論、ツール呼び出し、マルチモーダル情報の処理、継続的なワークフローを、より多くローカルハードウェア上で実行できる。
Muse Glimmerは常時稼働するローカルAIエージェントを狙う
Muse GlimmerはMeta Superintelligence Labsが開発した300億パラメータのdenseモデルで、ユーザー自身のマシン上で継続的に動くエージェント型処理向けに設計されている。Metaは、多段階推論、コーディング、ツール利用、マルチモーダル理解、処理失敗時の復旧を重視しており、短いQ&Aだけを目的としたモデルではない。
単一GPUで動かすことを想定した30Bモデル
対応する高性能GPU 1基でローカル実行できるよう設計され、従来クラウド基盤に依存しがちだったAI処理をコンシューマーPCやワークステーションに近づける。ウェイトはApache 2.0で提供され、ライセンス条件に従えば商用を含む利用、改変、再配布が可能だ。
Muse Sparkから蒸留、長いコンテキストに対応
Muse GlimmerはMetaのより大規模なMuse Sparkから蒸留された。Metaおよび関連エコシステムの資料では、12万トークンを超えるコンテキストと、マルチモーダル入力向けの専用知覚コンポーネントが示されている。長い意思決定、ツール呼び出し、結果の連鎖でも大きな作業コンテキストを保持することを狙う。
AMDとNVIDIAがローカル展開を後押し
ハードウェア企業もローカル実行を支援している。AMDのWindows上の暫定テストでは、Ryzen AI Max+ 395で最大24 tokens/秒、dFlashを有効にしたRadeon AI PRO R9700で最大53 tokens/秒を報告した。NVIDIAも自社プラットフォーム上のローカルエージェント用途としてMuse Glimmerを紹介している。実性能は量子化、メモリ、ソフトウェア構成、ハードウェアによって変わる。
ローカルのオープンウェイトAIが重要な理由
エージェントをローカル実行すれば、継続的なクラウドのトークン費用を抑え、作業データをユーザーの端末内により多く保持できる。ローカルファイル、メッセージ、機密性の高い独自データを扱う用途では重要だ。推論、カスタマイズ、統合の自由度も高まる一方、30Bモデルには大容量メモリと高性能ハードウェアが必要で、一般的なすべてのノートPCで同じように快適に動くわけではない。
MetaはMuse Spark 1.2のオープンウェイト版も準備
Glimmerの公開はMetaがオープンウェイト路線を再び強めていることも示す。Mark Zuckerbergは、より強力なMuse Spark 1.2のオープンウェイト版を近く公開する計画を明らかにした。Glimmerは今すぐ利用できる実用的なローカルモデルであると同時に、Museファミリーを閉じたクラウドの外へ広げる方針を示している。
