こんにちは。IT 基盤部の小池です。副部長とパブリッククラウドチームのリーダーを兼務しています。 2026 年 7 月 28 日(火) に開催された、 トークンコストへの向き合い方 ― 新時代の開発コストへの対応を学ぶ会 に登壇した際の内容を説明しようと思います。
はじめに
生成 AI の劇的な進化を受け、DeNA は現在、全社を挙げてAIをフル活用する「AIオールイン」の姿勢を鮮明に打ち出しています。 しかし、この「攻め」の姿勢を支えるためには、裏側で急増する AI コストをコントロールする「守り」の基盤も不可欠です。
本記事では、1,000を超えるクラウドアカウントを管理する中で培った DeNA のクラウドコスト FinOps の知見を、いかにして AI 領域に適応させているかを解説します。 長年の実績がある「既存基盤の流用」と、現在進行形で進めている「AI 特有の課題解決」という二部構成で、DeNA 流の AI コスト管理手法をお伝えします。
クラウドコスト FinOps × AI コスト: 既存基盤の流用と成果
DeNAが「AI オールイン」の号令の下、迅速に動けた最大の要因は、2021 年 4 月に完了した全社クラウドシフトによって構築された「成熟したクラウド管理基盤」にあります。 新たな AI コストに対しても、ゼロから仕組みを作るのではなく、まずは既存の FinOps 資産を徹底的に活用することから始めました。
成熟したクラウド管理基盤
DeNA では 1,000を超える膨大なクラウドアカウントを組織一括管理しています。 プラットフォームエンジニアリングの観点から言えば、インフラ側が「ガードレール」をあらかじめ敷いておくことで、個々の開発チームは煩雑な管理ルールに頭を悩ませることなく、スピード感を持って AI を導入できます。 また、組織一括管理の一環でクラウドコスト FinOps 基盤も整っており、その基盤を流用することで “プロジェクト・チーム” 粒度の AI コスト管理にもそのまま展開できました。
BigQuery と Looker によるコストの可視化
AWS、Google Cloud、Azureを併用するマルチクラウド環境において、コストの横断的な把握は必須です。 我々は、各クラウドの日次コストデータを BigQuery に集約し、Looker で可視化する仕組みを構築済みでした。 これを AI コストにも流用することで、サービスやチーム単位でのコスト推移が即座に可視化されます。 単にグラフを見るだけでなく、組織全体にコスト意識という「文化」を醸成できていることが、AI 導入初期のコスト爆発を防ぐ鍵となりました。
コストアラートと “AI 社員” を活用したコストアラート分析の省力化
コストの可視化が準備できた後は、それを用いたコストアラートの設置が FinOps の定石です。 DeNA でも BigQuery にためたコストデータを用いたコストアラートを設置しています。
またそのコストアラートの分析業務においても、パブリッククラウドチームメンバーの工数を奪わないための工夫を凝らしています。 1,000を超えるほど存在するクラウドアカウントのコストアラートを人力で追うのはとても大変です。そこで我々は AI 社員 を活用しています。 コストアラートの一次分析、異常検知、そして対応が漏れている担当者へのリマインドといった初動対応を AI 社員に任せています。 パブリッククラウドチームメンバーは AI 社員の分析結果を確認するだけで済むため、より本質的な最適化業務に注力できるようになりました。
インフラ技術を応用したコスト最適化
コスト最適化には、SRE として培った「リソースの使いこなし」の知見を応用しています。 たとえば AWS EC2 Spot Instance という空きリソース分を大幅に割り引いて利用できるという AWS の仕組みがありますが、DeNA ではこの Spot Instance を積極的に活用しています。 AI の推論においても同様に空きリソースを活用した大幅割引メニューである “バッチ推論” “Flex Tier” が用意されており、その活用を進めています。
| 最適化手法 | コスト | レスポンス | 実装の手軽さ | 対応モデル | 現在のステータス |
|---|---|---|---|---|---|
| バッチ推論 | 半額 | 非同期 (最大24時間) | 難 (Queue等の設計が必要) | 多い | 一部活用中 |
| Flex Tier | 半額 | 需要により遅延の可能性あり | 楽 (パラメーター変更のみ) | かなり限定的 | 検証中 |
サービスの特性(リアルタイム性が必須か否か)に合わせ、これらの「半額メニュー」をインフラ側で整備・提供することは、まさに SRE の腕の見せ所です。
前半のまとめ
既存のクラウドコスト FinOps 基盤を流用することで、サービス・部門粒度の AI コスト管理は概ね対応可能でした。 しかし、AI 活用がさらに深化し、「誰が、どのモデルで、どれほどの価値を生んでいるか」という問いに答えるためには、さらに一歩踏み込んだ、利用者個人の粒度での管理が必要になってきました。
AI コストならではの FinOps: 直面する課題と次の一手
従来のサービス・部門粒度の AI コスト管理では、そのサービス・部門内で誰が効率的に成果を出し、誰がムダなトークンを消費しているかが見えません。 AI への投資効果を示し、さらに AI 活用を加速させるためには、「利用者単位の ROI (投資利益率)」を可視化する新たなアプローチが不可欠です。
AI コスト管理に求められる3つの要素
AI コストに特化した FinOps において、以下の3つの要素が必要だと考えています。
- 可視化: 利用者粒度の ROI。誰が、どのモデルを使い、どれほどの成果を出したか
- 監視: 利用者粒度での「使い過ぎアラート」(消極的制限)や、利用上限の設定(積極的制限)
- 最適化: 開発者が意識せずとも自動で消費が抑制され、ROI が向上するレコメンド機能
クラウドベンダー標準機能の限界と AI Gateway への期待
しかし、各クラウドベンダーが提供する標準機能だけでは、これらの「人ごとの詳細なコスト取得」を実現するのは極めて困難です。
そこで我々が解決策として注目しているのが AI Gateway の導入です。AI Gateway をプロキシとして介在させることで、個別のリクエスト内容をトラッキングし、仮想トークンによる人ごとの課金管理や、動的なルーティングが可能になります。
Cloudflare AI Gateway を検証中
AI Gateway には、 LiteLLM のものや、 Cloudflare のものがありますが、我々はまず Cloudflare の AI Gateway を検証しています。 ダッシュボード上で、リクエスト数やトークン消費量が利用者単位で詳細に可視化されることを確認しています。 これにより、どのモデルが効率的に使われ、どの程度キャッシュが効いているかといった、精緻な分析が可能になりつつあります。 しかしながら、ただ使えるだけではなく、組織管理上も問題なく利用できるか・開発者がセルフサービスで楽に利用できるかという観点が重要で、その部分の検証に時間をかけています。
後半のまとめ
我々が目指すのは「セルフサービスな AI コスト FinOps 基盤」です。 開発者はインフラチームにお伺いを立てることなく、自動化されたコスト抑制やルーティングの恩恵を受けられることが理想です。 インフラの複雑さを隠蔽し、開発者が本来の目的である「AI による価値創造」に 100% 集中できる環境を、プラットフォームエンジニアリングによって実現することが我々の目標です。
おわりに
AI コスト管理の FinOps は、現在も進化を続ける進行形のプロジェクトです。 既存の強固な仕組みの活用と、AI 特有の課題を解決する新技術の導入。この両輪を回すことが、DeNA の AI 活用を支えるエンジンとなると考えています。
我々パブリッククラウドチームの使命は、管理によって自由を奪うことではありません。むしろ、技術的なガードレールと抽象化された基盤を提供することで、全 DeNA 社員が安心して AI 活用を推進できる環境を提供することです。 その環境を提供できるように日々精進を続けていきます。
本登壇のアーカイブ動画は Forkwell のページ からご覧いただけます。
最後まで読んでいただき、ありがとうございます!
この記事をシェアしていただける方はこちらからお願いします。