推論時代のデータ配置戦略:データと推論GPUを「どこに置くか」
課題解決のためのノウハウ
近年、生成AIや高度なシミュレーション技術の普及により、企業におけるITインフラの要件は大きく変化しています。とくに、大量のデータを高速に処理するGPUサーバーを多数集約した「高密度ラック」の導入ニーズが高まるなか、多くの現場で直面しているのがデータセンターの「冷却能力」の壁です。
従来の空冷方式では最新GPUの膨大な発熱を処理しきれないケースが増加しており、次世代の冷却テクノロジーとして「液冷方式」に注目が集まっています。
本記事では、空冷の物理的な限界値や、直接液冷(DLC、Direct Liquid Cooling)・液浸冷却といった最新の液冷方式の違いをわかりやすく比較・解説します。さらに、将来のGPU更新に伴う移転リスクやシステム停止リスクなどを回避するためのデータセンター選定の条件をご紹介し、自社のAIインフラ戦略を見直すための判断基準を提供します。
AIの普及に伴い、GPUサーバーを集約した高密度ラックの消費電力は急増しています。しかし、従来の空冷方式は1ラックあたり40〜50kW程度で物理的な冷却限界を迎えつつあり、最新AIインフラの熱を処理しきれないのが現実です。
ここでは、空冷データセンターが直面する限界と、世界的な液冷シフトの現状を解説します。
従来の一般的なデータセンターでは、1ラックあたりの電力容量は4kVA~8kVA程度で運用されてきました。しかし、AIの普及に伴い、膨大なデータを高速で処理するGPUサーバーを多数集約した「高密度ラック」へのシフトが急激に進んでいます。
最新のGPUは並列処理性能が飛躍的に向上している反面、消費電力と発熱量も跳ね上がっています。そのため、現在では従来の数倍から数十倍にあたる数十kW、システムによっては100kW以上の電力を1ラックで消費するような、非常に電力密度の高い構成が求められるようになっています。
このように消費電力が急増することで、データセンターの設備にはかつてない負荷がかかります。電源供給の面でも、既存の設備のまま高電力を供給しようとすると物理的な限界に直面しやすくなります。
電源供給や電力不足の課題についての詳細は、「スペースはあるのに電力が引けない?GPUサーバー調達に潜む『データセンター電力不足』の罠」を併せてご覧ください。
現在主流の空冷方式は、1ラックあたりの消費電力が約40〜50kWを超えると、冷風の風量やスペースの観点から熱を抜ききれず、実質的な限界を迎えます。課題は冷却にとどまりません。既存の交流(AC)400Vアーキテクチャのままラックに高電力を供給しようとすると、太い電源ケーブルを多数引き込む必要があり、配線スペースや重量といった電源インフラ面でも物理的な制約が生じます。
NVIDIAは2025年10月のOCP Global Summitにおいて、1ラックあたり1MWを超えるスケーラビリティを前提とした800VDCアーキテクチャを発表しました。AIインフラの高密度化は、現在進行形で進んでいます。
参考:NVIDIA「Building the 800 VDC Ecosystem for Efficient, Scalable AI Factories」2025.10
次世代GPUの冷却手段として「液冷方式」が注目を集めています。しかし、「直接液冷(DLC)」や「液浸冷却」には施設要件や運用方法などの導入ハードルが存在し、データセンター市場は現在「過渡期」にあります。この過渡期の現実を正しく把握しているかどうかが、自社のAIインフラ選定の成否を左右します。
現在、AIデータセンターで注目を集めているのが「直接液冷(DLC)」です。これは、GPUやCPUのチップ上に「コールドプレート」を取り付け、内部に液体を循環させて熱を直接吸収する仕組みです。
しかし、DLCの導入には過渡期ならではの課題の一つとして、サーバーベンダー間での標準化の遅れが指摘されています。特定の冷却液を使用しないとベンダー保証が受けられないケースや、仕様の違いからCDU(Coolant Distribution Unit:冷却水分配装置)の多重設置を強いられ、全体の冷却効率を落としている現場もあるといえます。
このように、DLCは優れた冷却能力を持つ反面、現段階では運用面にハードルが残されているのが実情です。
DLCと並んで注目されるのが、サーバー全体を特殊な絶縁性の液体に沈めて冷やす「液浸冷却」です。チップだけでなくすべての部品が液体に触れるため冷却効率が極めて高く、国内で実施した実証実験(2022年)では、二相式液浸冷却システムにより冷却エネルギーを従来比で最大97%削減し、推定PUE1.07を達成しています。
一方で、液浸冷却の導入には極めて高い施設要件が求められます。特殊な冷却液を満たした専用タンクの超重量に耐えうる強固な「床荷重」が必要となるほか、保守時にサーバーを液体から引き上げる手間が生じるなど、運用面の課題も少なくありません。
現状では優れた省エネ性能を持つ反面、施設側のハードルが極めて高いといえるでしょう。
空冷・直接液冷・液浸冷却・リアドア冷却の比較
| 比較項目 | 空冷(Air Cooling) | 直接液冷(DLC) | 液浸冷却(Immersion) | リアドア冷却(Rear Door Heat Exchanger :RDHx) |
|---|---|---|---|---|
| 冷却能力の上限(kW/ラック) | 約40〜50kW これを超えると熱を抜ききれず限界を迎える |
100kW 超高密度なAIラックに対応可能 |
極めて高い 高負荷な発熱にも安定して対応可能 |
最大約50kW 空冷の補助として既存ラックに後付け可能だが、高密度GPU環境(100kW超)の根本解決にはならない |
| 省エネ性能(PUE改善効果) | 低い 空調の熱ロス等により、大量のエネルギーが必要 |
高い 水は空気に比べて比熱容量が高く、空冷比で冷却効率が40%以上向上する事例あり |
非常に高い 国内の実証実験でPUE推定値1.07、冷却エネルギー約97%削減を確認 |
中程度 PUE目安1.2〜1.4。空冷よりは改善されるが、DLC・液浸ほどの省エネ効果はない |
| 導入・改修のハードル(施設要件) | 低い 従来のデータセンターの標準的な方式 |
中〜高 冷却水分配装置(CDU)や冷却配管などの液冷設備を設置するスペースが必要 |
極めて高い 特殊な液体を満たした専用タンクの超重量に耐えうる「強固な床荷重」が必要 |
中 サーバー本体への改造は不要だが、新たに冷水の配管や熱交換器の設置が必要となるため、空冷よりも導入ハードルは高い。 |
| 運用・標準化の課題 | 特になし 技術が成熟している |
過渡期の課題あり ベンダー間の標準化遅れによるCDUの多重設置や、特定の冷却液を使用しないと保証が受けられない等の縛りがある |
保守運用の制約が大きい サーバー全体を絶縁性の特殊な液体・冷却オイルに沈めて運用するため |
比較的少ない 空冷サーバーをそのまま使用できるため運用変更が少ない。ただし冷却水の配管管理は必要 |
※製品や構成によって幅があるため記載の数値は目安です。
既存の空冷データセンターに液冷設備を後付け(レトロフィット)して最新GPUを導入することは、物理的・コスト的な観点から非常に困難です。ここでは、空冷環境での無理な液冷運用が引き起こすコスト肥大化の実態と、将来の液冷移行を最初から前提としたデータセンター選びの重要性について解説します。
データセンターは移転コストやシステム停止リスクから容易に変更できないインフラです。既存の空冷施設に液冷GPUサーバーを導入しようとすると、冷却設備の追加やPDU(配電ユニット)など電源系統の改修が必要となり、想定以上のコストが発生するケースがあります。
さらに、サーバーベンダー間で液冷の標準化が遅れている点も課題です。特定の冷却液への縛りからCDU(冷却水分配装置)の多重設置を強いられる現場もあるといえ、結果的にユーザー企業のTCO(Total Cost of Ownership:総所有コスト)が肥大化するリスクが生じます。
また、リアドア冷却で用いられる「リアドア熱交換器(RDHx)」は後付けが容易な反面、一般的な製品の冷却能力は最大約50kWにとどまります。100kW超の高密度環境の根本解決にはならず、抜本的な施設移行を先送りにする懸念がある点には注意が必要といえます。
既存のデータセンターに液冷設備を導入する際、超重量のGPUサーバーや液体を満たした設備に床が耐えられない「床荷重不足」に陥るケースが多く見られます。建物の構造的な制約から、床の改修が事実上困難となる現場の実態も指摘されています。
また、ハウジングでAIインフラを運用する場合、次世代GPUへの更新は単なる「機器の買い替え」では済まない可能性があります。GPUの進化に伴い電力密度と発熱量が増大するため、当面は空冷でしのげたとしても、数年後の更新時に施設の物理的限界を迎える懸念があります。
結果として、「稼働中サーバーを別のデータセンターに移設しなければならない」事態が生じかねません。システム停止リスクや移転コスト、新施設の選定工数は、GPU本体の更新コストを大きく上回る場合があります。こうした多大な経営リスクを回避するには、将来の拡張を見据えたデータセンター選びがカギとなります。
既存データセンターの改修困難さや液冷導入のハードルを踏まえると、最初から将来の拡張を見据えた施設選びが重要です。ここでは、現行世代のGPUを安定稼働させながら、将来の液冷移行を今から計画できる環境を確保することが、投資対効果の高い選択肢となり得る理由を解説します。
将来の液冷移行を見据えるにあたり、まずは現在の空冷環境で最新GPUを安全かつ安定して稼働できる設備が整っているデータセンターを選ぶことが大前提となります。
具体的には、1ラックあたり21kVAを超えるような大容量の電力供給に対応していることや、超重量のGPUサーバーや将来の液冷設備導入にも耐えうる強固な「床荷重」性能、高いセキュリティ要件を満たす施設であることがカギとなります。
現状の最高スペックの空冷環境を確保しつつ、将来の拡張に備えることが投資対効果の高い選択肢となり得ます。
一般的なGPUサーバーの運用に必要な施設要件の詳細については、「GPUサーバーを買っても置けない?従来データセンターの限界と『AI対応データセンター』5つの選定基準」も併せてご覧ください。
現在の冷却テクノロジーは過渡期にあるため、無理に今すぐ液冷へ急ぐ必要はありません。まずは空冷の最高スペックで運用しつつ、将来の全液冷時代を見据えて「液冷方式への対応を進めている」データセンターを選ぶことが賢明な選択といえます。
また、液冷対応DCへの移行と並行して、セキュリティ要件の高いGPUワークロードはハウジングで、スケーラビリティが求められるワークロードはクラウドで運用する「ハイブリッドクラウド」構成も、中長期的なインフラ最適化の選択肢として検討に値します。
今すぐ期限を設けて移行するのではなく、市場動向を監視しながら、自社の機器リプレースのタイミングに合わせて専門家に相談し、柔軟に構成を見直せる環境を確保しておくことが、中長期的な安定運用において大きな意味を持ちます。
空冷データセンターの限界や既存施設への液冷後付けの困難さから、将来の拡張を見据えた施設選びが企業のAI競争力を左右します。STNetが提供するデータセンター「Powerico(パワリコ)」は1ラックあたり最大定格21kVAの電力供給や強固な床荷重を備え、高密度な次世代GPUサーバーの稼働要件にも柔軟にお応えできる環境を整えています。将来の更新に備え、今後の液冷設備導入についても検討を進めています。
また、セキュリティと柔軟性を両立する「ハイブリッドクラウド(ハウジングとSTクラウド サーバーサービス[FLEXタイプ]の併用)」によるコスト削減や迅速な復旧もお薦めです。詳細な対応条件や構成のご相談は、ぜひSTNetへお気軽にお問い合わせください。
Q1.一般的なデータセンターの空冷システムで、最新のGPUサーバーは冷やせますか?
A. 最新のGPUサーバーを集積させたラックは数十kW〜100kW以上の熱を発することもあり、空冷システムの物理的な冷却限界(約40〜50kW/ラック)を大きく超えてしまうため、構成によっては空冷システムのみでの対応は難しくなる場合があります。
Q2.既存のデータセンターに「直接液冷(DLC)」を後付けすることはできますか?
A. 技術的には可能ですが、冷却水分配装置(CDU)や配管の設置スペースが必要となるうえ、液冷設備の超重量に既存の床が耐えられないケースが多く、改修コストも膨大になる可能性があります。
Q3.Powericoでは将来的に液冷を利用できるようになりますか?
A. 将来に備え、今後の液冷設備導入についても検討を進めています。詳細な対応条件については、お問い合わせの際にご確認ください。