メモリ供給逼迫時代のAIインフラ設計, DRAM制約を前提にした容量計画とFinOps

直近の報道では、AI需要増によりメモリ供給が需要に追いつかない見通しが繰り返し示されています。これは調達部門だけの課題ではなく、モデル選択、推論方式、SLO設計を左右する基盤制約です。

参考: https://gigazine.net/news/20260420-global-memory-shortage-2027-ai-drains-supply/, https://news.ycombinator.com/, https://techcrunch.com/feed/。

見落とされがちなボトルネック

AI運用では演算能力に注目が集まりがちですが、実際の障害やコスト跳ねはメモリ側で発火します。

長文脈やマルチモーダル処理でVRAMが先に飽和
RAGやキャッシュでホストメモリが膨張
ローカル推論でストレージI/Oとメモリ圧迫が連鎖

結果として、理論性能より運用品質が先に崩れます。

単年度予算型の容量計画は危険

供給不確実性が高い局面では、シナリオ計画が必要です。

シナリオA, 楽観

納期遅延は軽微
計画更新周期を維持
段階的モデル拡大が可能

シナリオB, 制約常態化

高メモリ機材の納期長期化
重要業務への割当優先
量子化/軽量化が必須

シナリオC, 供給ショック

調達枠の急減
非重要ワークロードの停止
フィーチャー制限を前提運用

どのシナリオでも、先に業務優先順位を決めておくことが重要です。

アーキテクチャ側でできる対策

非クリティカル経路は量子化を標準化
要約・検索併用で有効文脈長を抑制
タスク難易度別のモデル階層ルーティング
キャッシュキー正規化で重複保持を削減
セッション期限で状態肥大化を抑止

ハード増設だけに頼るより、改善速度と再現性が高くなります。

FinOps指標の再設計

token単価だけを見ると、メモリ制約の実害を捉えられません。

成功応答あたりメモリ占有量
テナント別ピーク使用量
受理成果あたり総コスト
高負荷時の低速レーン流入率

この指標があると、遅延や品質低下を「偶発不具合」で終わらせずに済みます。

調達と開発の接続

調達部門に「GPUを増やしたい」だけを渡しても意思決定できません。開発側は次を明示すべきです。

ワークロード別の最低/推奨メモリ要件
許容できる性能劣化幅
低メモリ代替構成の承認マトリクス
機能制限発動のトリガー条件

これで調達交渉が技術的根拠を持ちます。

プロダクト運用への影響

メモリ逼迫は、機能ロードマップにも直撃します。

長文脈機能の段階提供化
重処理フローの利用上限
プラン別の品質差管理

制約を事前に説明する方が、突然の劣化より信頼を維持しやすいです。

60日アクション

1〜2週: 主要ワークロードのメモリ実測と無駄検出
3〜4週: メモリ閾値連動ルーティング導入
5〜8週: 調達制約をロードマップ会議に組み込み

まとめ

メモリ不足は一時的ノイズではなく、AI基盤の一次制約になりつつあります。メモリを「調達問題」ではなく「設計資源」として扱う組織が、コストと品質の両面で安定します。