AI基盤の新要件としてのエネルギー配慮スケジューリング

なぜ電力制約がAI設計の主要論点になったのか

これまでのAI基盤議論はGPU確保と推論スループットが中心でした。しかし現在は、地域の電力需給やピーク時間帯の価格変動が「どこで・いつ実行するか」に直接影響します。つまり、エネルギーは外部事情ではなく、スケジューラの入力パラメータです。

先に行うべきワークロード分類

• 低遅延推論: ユーザー応答SLOが厳格
• ニアライン推論: 数分遅延許容、バッチ化可能
• 学習/再学習: 時間柔軟性が高く電力消費が大きい
• 評価/リプレイ: 遅延許容、並列実行しやすい

分類なしの最適化は、局所最適を生みやすくなります。

3信号スケジューラ

実装しやすい形は次の3信号統合です。

1. 事業優先度スコア
2. インフラコスト信号
3. 電力/炭素強度信号

例として、炭素強度が閾値超過かつキュー余裕がある時間帯は、非緊急評価ジョブを遅延実行へ回します。

デュアルリージョン弾性キュー

• 主リージョン: 低遅延処理を担当
• 副リージョン: 遅延許容ジョブを吸収
• キューメタデータ: 期限・エネルギー感度を保持

コントローラがSLAリスクとエネルギー条件で昇格/移送を判断することで、体感品質を維持しつつピークコストを抑えられます。

見落としがちな副作用と対策

エネルギー配慮ルーティングは副作用も伴います。

• リージョン切替時のキャッシュミス
• データ局所性悪化による遅延上昇
• 越境規制違反

対策として、

• 昇格ジョブ向けウォームキャッシュプール
• 移送前のデータレジデンシーポリシー検証
• レイテンシ悪化時の自動ロールバック付きカナリア

を最初から組み込みます。

FinOpsとサステナビリティを同じ指標面で見る

別々のダッシュボードは意思決定衝突を生みます。以下を同一画面で管理してください。

• 1,000推論あたりコスト
• 1,000推論あたり炭素強度
• ワークロード分類別SLA達成率
• 遅延ジョブの期限内完了率

4指標を同時に見ることで、安さだけを追って信頼性を落とす誤最適化を防げます。

6週間パイロット

• 1-2週: 上位20ジョブを優先度・柔軟性で分類
• 3-4週: キューメタデータとポリシーフック実装
• 5週: シャドーモードで既存運用と比較
• 6週: ロールバック閾値付きで限定本番化

展望

規制当局、顧客、財務部門のいずれもAI運用の説明責任を求めています。エネルギーと性能のトレードオフを定量で示せるプラットフォームチームが、今後の意思決定で主導権を持ちます。