AIデータセンター電力制約から考える、中小企業のAI基盤はクラウド一択でよいのか

先に結論

AI基盤を「クラウドか、オンプレか」で迷ったとき、初期費用の大小で決めると高い確率で判断を誤ります。正しい比べ方は、同じ処理量・同じ稼働率・同じ可用性という前提をそろえたうえで、5年間の総保有コスト（TCO）を全項目で並べることです。クラウドは「初期ゼロで安い」、オンプレは「買い切りで安い」と言われますが、どちらも一部の費用しか見ていない言い方で、5年の実額で比べると印象がひっくり返ることがあります。

この記事は、GPUの機種選定や電力・冷却の設計の話ではありません（それは別稿で扱っています）。ここで扱うのは一点だけ、**「クラウドとオンプレを5年で比較すると、何がいくらかかるのか」**という費用の見取り図です。この一枚を自社の数字で描けるかどうかが、投資判断のスピードとその後の請求書の予測可能性を決めます。

自社の業務・処理量・データを整理したうえで比較表を作りたい段階であれば、発注前のシステム開発・AI基盤の相談から要件と費用の整理を始められます。

この記事を読むべき人

• クラウドAPIのトークン課金が毎月膨らみ、「このまま払い続けてよいのか」を判断したい経営者・CIO・情シス
• 「GPUを買ったほうが安いのでは」という声が社内から出ていて、5年でいくらか試算したい会社
• 個人情報・図面・カルテ・ソースコードなど、外部に出しにくいデータをAIで扱いたい会社
• PoCは動いたが、本番の費用試算とデータ保管設計で止まっている会社
• 複数のベンダーから来た見積もりの数字が揃わず、比較できずに困っている担当者

数字を扱う立場ではなく「そもそもAIを入れるべきか」から迷っている場合は、先にAI導入可否アセスメントで対象業務の当たりを付けてから、本記事のTCO比較に進むと無駄がありません。

電力制約は「価格」と「待ち時間」として自社に降りてくる

最初に、なぜ電力制約が中小企業のTCOに関係するのかを短く整理します。自社でデータセンターを建てる話ではありません。効いてくる経路は間接的で、次の2つです。

ひとつは価格です。AI向けの大規模データセンターは電力と送電網の制約に突き当たっており、増設のペースは電力インフラに縛られます。査読前のプレプリントではありますが、主要企業のAIインフラによる電力需要が2030年に相当規模へ達し、立地が北米・西欧・アジア太平洋の一部に強く集中するという推計も出ています（末尾の出典参照）。供給が制約されるほど、クラウドGPUの従量単価は下がりにくくなります。「使い続ければどんどん安くなる」という前提は、以前より弱くなっていると考えておくのが安全です。

もうひとつは待ち時間・割り当てです。特定リージョンに需要が集中すると、最新GPUの空きが取りにくくなったり、混雑時のレスポンスがぶれたりします。これは「クラウドは常に即時・無制限」という前提を崩します。つまり電力制約は、停電リスクとしてではなく、単価が下がりにくい・希望のGPUがすぐ取れないことがあるという形で、TCOと運用計画に静かに効いてきます。

だからこそ、「クラウドは無限に安い」を前提にせず、自社の5年TCOを一度きちんと描いておく価値があります。

なぜ「5年」で比較するのか

比較の期間を1年や3年ではなく5年に置くのには理由が2つあります。

1つ目は、初期投資の償却期間です。 オンプレでGPUサーバを買うと、その支出は買った月に一括で消えるわけではなく、会計上は数年に分けて費用化されます。一般的なサーバ機器は法定耐用年数がおおむね数年程度で、実務上も4〜5年は使い続ける前提で投資判断をします。1年で切ると初期費用が重すぎて「オンプレは高い」と出ますし、逆に月額だけを見ると「クラウドは安い」と出ます。初期費用を使用年数で割り、月額に均して比べることで、初めて両者が同じ土俵に乗ります。5年は、この償却期間の実務的な標準です。

2つ目は、GPUの陳腐化です。 AI向けアクセラレータは世代交代が速く、数年で性能・電力効率の面で見劣りします。5年より長い期間で比較すると、途中で買い替えや増設が発生し、「買い切りだから安い」という前提が崩れます。逆に短すぎると、まだ償却しきっていない資産を評価に入れられません。5年は、陳腐化を1回は織り込みつつ、償却も一巡するちょうどよい窓なのです。オンプレを検討するなら、比較表の下に必ず「5年目に買い替える場合の再投資額」の欄を作っておくべきです。

TCOに入れ忘れる費用は、クラウド側とオンプレ側の両方にある

「クラウドは初期ゼロ」「オンプレは買い切り」という言い方が危ないのは、どちらも見えている費用だけを数え、見えにくい費用を落としているからです。5年TCOで比較するなら、次の項目を両側とも埋めます。

とくに落としやすいのが、クラウド側のデータ転送（egress）とリザーブド購入の縛り、オンプレ側の運用人件費と5年後の廃棄です。クラウドは「使った分だけ」に見えて、大量データを外へ出すたびに転送課金が乗りますし、単価を下げようとリザーブドやコミットを買うと「初期ゼロ・従量だけ」ではなくなります。オンプレは本体価格だけ見ると安く見えても、これを誰かが運用する時間（監視・更新・障害対応）を人件費として入れると、実質月額が跳ね上がることが珍しくありません。

見積もりを比較するときは、この表の空欄をどちらか片方でも残さないことが唯一のコツです。片側だけ全項目を埋め、もう片側を「本体価格」だけで比べると、必ず判断が歪みます。

見積もりを「比較可能」にする3つの前提

複数ベンダーの見積もりが揃わない、クラウドとオンプレを並べられない――その原因のほとんどは、比較の前提が揃っていないことです。次の3つをRFP（見積依頼）の冒頭で固定してから各社に投げると、数字の差が「前提の違い」ではなく「実力の違い」として読めるようになります。

• 同じ処理量：月間の推論回数、1回あたりの平均入出力トークン数（または画像枚数・音声時間）、ピーク時の同時実行数を数字で指定する。ここが各社バラバラだと、単価が安く見える見積もりが実は少ない処理量で計算されている、ということが起きます。
• 同じ稼働率：24時間常時稼働なのか、夜間バッチだけなのか、平日日中だけなのかを固定する。オンプレは常時稼働前提だと1回あたりが安くなり、クラウドは低稼働だと従量が有利になるため、稼働率を揃えないと勝負になりません。
• 同じ可用性：止まってよい時間（SLA）、障害時の復旧目標、冗長化の有無を揃える。片方だけ二重化・予備機込みで、もう片方が単一構成だと、安いほうが「安いのではなく手を抜いている」だけになります。

この3点を揃えるだけで、「A社は安いが処理量を少なく見積もっていた」「オンプレは安いが冗長化していない」といった落とし穴が見えます。処理量やデータ量の棚卸しから固めたい場合は、AIとDXのためのデータ基盤づくりの考え方が土台になります。

中小企業でオンプレが「成立する条件」と「成立しない条件」

すべての会社がオンプレを検討すべきではありません。5年TCOで自社運用が有利に傾くのは、次の条件が重なるときです。

成立しやすい条件：

• 月間の処理量が安定して多く、しかも数年単位で使い続ける前提がある（従量課金が固定費のように積み上がっている）
• 個人情報・図面・カルテ・ソースコードなど、外部に出しにくいデータが処理の中心で、送信可否そのものが要件になっている
• 稼働率が高く読める（例：日中ずっと動く検査・監視・定常バッチ）
• 運用を担える人（あるいは委託先）が確保できる

成立しにくい条件：

• 月間の処理量が読めず、変動が大きい（買った瞬間に固定費が発生し、使わない月も償却が進む）
• 最新の大型モデルに常に乗り替えたい（自社GPUだと陳腐化のたびに再投資が必要）
• 専任の運用要員がおらず、兼任情シスや外部頼みである
• まだ小さく試している段階で、要件が固まっていない

要は、「量が読めて・長く使い・機密が中心・稼働率が高い」ほどオンプレ側が有利に、その逆ほどクラウド側が有利に振れます。多くの成長期の中小企業は後者寄りなので、「まずクラウド」で正解なことが大半です。ただし、上の成立条件に複数当てはまる業務が社内に一部でもあるなら、そこだけを切り出して自社側に置く「部分オンプレ」を検討する価値があります。

「使う量が読めない」ときの判断順序と、その落とし穴

多くの会社の実態は「使う量が読めない」です。このときの順序ははっきりしています。

1. 読めないうちはクラウド。 初期投資ゼロで始め、実際の月間処理量・データ量・単価を数字として貯めます。読めないのにオンプレを買うのは、需要予測を外したまま在庫を仕入れるのと同じで、最も高くつく失敗です。
2. 数字が読めてきたら、量の多い業務だけを一部オンプレ（または長期コミット）へ寄せる。 全部を移す必要はありません。損益分岐を超えている業務だけを対象にします。

この順序自体は素直ですが、落とし穴が3つあります。

• 移行コストを勘定に入れ忘れる。 クラウドで貯めたデータ・パイプライン・運用ノウハウをオンプレへ移すには、移行そのものの工数と一時費用がかかります。「月額が逆転した瞬間に移せば得」ではなく、移行費を回収できるだけの期間、使い続ける前提があるかを見ます。
• 陳腐化のタイミングで判断する。 オンプレへ寄せた直後に世代交代が来ると、割高な資産を抱えることになります。買い替えサイクルの手前で大きな投資をしないよう、5年の再投資欄と突き合わせます。
• 「読めた」と思い込む。 数か月の実測を年間に引き延ばすと、季節変動やキャンペーン期の急増を取りこぼします。少なくとも繁忙期を1回は含む期間で測ってから判断します。

読めるようになったかどうかを客観的に見たいときは、自社のDX・データ活用の現在地をDX成熟度診断で棚卸ししてから移行判断に進むと、思い込みを避けやすくなります。

よくある4つの誤解

TCO比較でつまずく会社は、たいてい次の思い込みのどれかを持っています。

• 「オンプレは（買い切りだから）安い」 ――本体価格は一部にすぎません。電力・冷却・設置場所・保守・運用人件費・5年後の廃棄まで足すと、低稼働では割高になります。安いのは「高稼働で長く使うとき」だけです。
• 「クラウドは（従量だから）高い」 ――量が少ないうちはクラウドが圧倒的に安く、初期投資も要りません。「高い」と感じるのは処理量が増えてからで、それは損益分岐を超えたサインです。
• 「使った分だけだから無駄はない」 ――従量課金は、上限を決めなければ青天井です。テスト放置、最上位モデルの過剰利用、ログの垂れ流しで、誰も無駄と気づかないまま積み上がります。無駄がないのではなく、無駄が見えにくいのです。
• 「GPUを買えば自由に使える」 ――買った瞬間から電力・冷却・保守・運用が発生し、陳腐化のカウントダウンも始まります。所有は「自由」ではなく「責任と固定費」を持つことです。

この4つを裏返すと、健全な比較の姿勢になります。すなわち、どちらが安いかは処理量・稼働率・使用年数で決まり、固定の正解はない。だから自社の数字で5年TCOを描く、という一点に尽きます。

5年TCO比較の進め方（数字は自社の実測で埋める）

具体的な単価はクラウド・モデル・時期・契約で変わるため、ここでは埋めるべき式だけを示します。実額は必ず各クラウドの最新料金表と、ベンダーの正式見積もりで確認してください（本記事では特定の価格・削減率を断定しません）。

• クラウドの5年費用 ≒ 〔(1回あたり平均トークン数 × 単価) × 月間回数 ＋ ストレージ ＋ データ転送 ＋ 監視・サポート ＋ 改善工数〕 × 60か月（リザーブド購入分は別途コミット額で）
• オンプレの5年費用 ≒ 初期投資 ＋ (電力 ＋ 冷却 ＋ 保守 ＋ 運用人件費 ＋ 設置場所) × 60か月 ＋ 5年目の再投資・廃棄費
• 損益分岐は「月間処理回数」で動く。 回数が少ないうちはクラウドが圧倒的に安く、安定して大量に回すとオンプレが逆転し得る、という曲線を一度描いておきます。

この曲線を自社の実測値で描ければ、経営会議での投資判断は「感覚」から「数字」に変わります。稟議で費用対効果を示す段になったら、システム開発の稟議に必要な費用対効果の診断の型に落とすと、社内承認が通りやすくなります。処理量が読めてきて本格的な基盤・運用設計に進む段階では、DX・システム開発や業務に組み込むAIサービスの選び方の観点が接続先になります。なお、本番運用に入るとGPUやクラウドの費用だけでなく監視・ロールバックの設計も費用に響くため、AIエージェント本番環境の監視・ロールバック設計や、社内RAGチャットボット開発の費用と手順も合わせて見ておくと、TCOの抜けが減ります。

よくある質問（FAQ）

Q. 結局、中小企業はクラウドとオンプレのどちらが安いのですか。 A. 固定の正解はありません。月間処理回数・稼働率・使用年数で決まります。回数が少なく変動が大きいうちはクラウドが圧倒的に安く、安定して大量に長く回すようになるとオンプレが逆転し得ます。自社の実測でコスト曲線を描くのが唯一の答えです。

Q. なぜ3年ではなく5年で比べるのですか。 A. サーバ機器の償却期間とGPUの陳腐化サイクルが、実務上おおむね4〜5年だからです。短く切ると初期費用が重く出てオンプレが不利に、月額だけ見るとクラウドが有利に見え、どちらも実態を映しません。5年は償却が一巡し、陳腐化を一度織り込める窓です。

Q. クラウドの見積もりで、いちばん見落としやすい費用は何ですか。 A. データ転送（egress）と、単価を下げるためのリザーブド/コミット購入の縛り、そして監視・サポートの上位プラン費です。トークン単価だけを見て「安い」と判断すると、これらが後から乗って印象が変わります。

Q. オンプレの見積もりで、いちばん見落としやすい費用は何ですか。 A. 運用人件費と、5年後の廃棄・買い替えです。本体価格は一部にすぎず、監視・更新・障害対応を誰かの時間として入れ、5年目の再投資欄を作らないと、実質月額を過小評価します。

Q. 使う量がまだ読めません。今すぐオンプレを買うべきですか。 A. 買うべきではありません。読めないうちはクラウドで実測を貯め、量が読めて損益分岐を安定して超えた業務だけを、移行費まで含めて検討してから一部オンプレへ寄せます。順序を逆にすると最も高くつきます。

Q. 電力制約は本当に自社のコストに関係しますか。 A. 直接の停電リスクではなく、クラウドGPUの単価が下がりにくくなる・希望のGPUがすぐ取れないことがある、という間接的な形で効きます。「クラウドは無限に安い」前提を置かず、5年TCOを見える化しておくことが実務的な備えです。

Q. 複数ベンダーの見積もりが比較できません。どうすれば揃いますか。 A. 同じ処理量・同じ稼働率・同じ可用性を見積依頼の冒頭で固定してから各社に投げます。前提を揃えると、数字の差が「前提の違い」ではなく実力差として読めるようになります。

参考・出典

以下は2026年7月10日に内容を確認した参照元です。査読前のプレプリントを含むため、投資・発注の判断前に一次情報での再確認を前提としてください。単価・電力量・削減率などの具体値は、各クラウドの最新料金表とベンダーの正式見積もりで確認してください。

• arXiv（査読前プレプリント）Toward Next-Generation AI Data Centers（電力供給アーキテクチャ）: https://arxiv.org/abs/2606.25095
• arXiv（査読前プレプリント）Concentrated siting of AI data centers drives regional power-system stress（AIデータセンターの地域集中と系統ストレス）: https://arxiv.org/abs/2604.06198

まとめ

AIデータセンターの電力制約は、中小企業にとって「クラウドは無限に安い・無限に使える」という前提を見直すサインです。ただし答えは「クラウドか、オンプレか」の二者択一ではありません。同じ処理量・同じ稼働率・同じ可用性という前提をそろえ、クラウド側とオンプレ側の入れ忘れやすい費用まで含めて、5年間のTCOを一枚に並べる――これができれば、投資判断もベンダー比較も費用上限の設計も一気に前へ進みます。

まずやるべきは、自社の業務ごとの月間処理量とデータの機密度を数字で置き、5年TCOの空欄を両側とも埋めること。表が作れない段階であれば、置き場所を決める前に要件と費用の整理から始める価値があります。

自社のAI基盤について、置き場所とTCOの整理から相談したい場合は、発注前のシステム開発・AI基盤の相談からご連絡ください。