Meta MTIA発表から読み解くAIインフラ再設計の実務

Metaが複数世代のMTIA計画を示したことは、AIインフラ戦略が「汎用GPUを増やす」だけの時代から離れたことを意味します。これからは、モデル特性・遅延要件・コスト構造を組み合わせるポートフォリオ設計が必要です。

まず“ワークロードレーン”で整理する

• レコメンド/ランキング推論
• 生成AI推論
• 学習/継続チューニング
• 特徴量生成・前処理

同じAIでもボトルネックは違います。単一方針で一括最適化しようとすると、どこかで過剰コストを払います。

配置判断は遅延・コスト・変動性の3軸

配置先を決める際は次を同時に見ます。

• 目標遅延SLO
• 利用率の予測可能性
• モデル更新頻度
• ソフトウェアスタック成熟度

安定高トラフィック推論は専用化の投資回収がしやすく、変動の大きい実験系は柔軟プールの方が安全です。

コンパイラ/ランタイム成熟度を軽視しない

カスタムシリコンの価値は、ツールチェーン成熟で初めて現れます。

• 対象グラフのコンパイル安定性
• 主要演算のカーネル対応
• 実行時観測性
• 汎用加速器へのフォールバック性能

理論性能が高くても、統合摩擦で相殺されるケースは珍しくありません。

不確実性を前提にした容量計画

AI機能は需要変動が大きいので、単一予測で固定しない方が安全です。

• 保守シナリオ
• 基準シナリオ
• 急拡大シナリオ

契約・予約・バースト枠を組み合わせ、過剰コミットを避けつつ急増に耐える設計が必要です。

異種アクセラレータ時代のFinOps指標

GPU時間単価だけでは比較できません。業務価値に寄せた指標を使います。

• 目標遅延を満たす1000推論あたりコスト
• ランキング品質1ポイント改善あたりコスト
• 再学習1サイクルあたりの品質改善効率

これでハードウェア横断の意思決定が可能になります。

組織設計: 中央ブローカー + ドメイン責任者

• プラットフォームが容量配分を仲介
• ドメインチームがモデル品質責任を持つ
• 共同審査でレーン移行を承認

局所最適を抑え、全体効率を高めやすい形です。

今四半期にやるべきこと

• ワークロードレーン分類
• レーン別配置ガードレール定義
• 実効コスト指標の計測開始
• 小規模移行実験の実施

MTIAのニュースは、ハード選定の話に留まりません。AIインフラを“プロダクト能力”として継続的に設計できる組織が、中長期でコストと性能の両方を取りにいけます。