学習と推論で異なるGPU要件を理解する、次世代インフラの提案ポイントを徹底解説

FOR BUSINESS

課題解決のためのノウハウ

「生成AIを使いたい」「GPUサーバーを構築したい」、こうした相談を顧客から受ける機会が増えていませんか?

その一方で、自社設備への投資リスクや、AWS・Azure・Google Cloudといったクラウドのパートナー認定要件や販売ノルマの重さを理由に、参入をためらっているケースも多いでしょう。

本記事では、生成AI基盤における「学習」と「推論」の違いと、それぞれに求められるインフラ要件、さらに「電力・排熱」がなぜ課題になるのかを最初に整理します。そのうえで、投資リスクを抑えながらSIerの利益と提案価値を最大化する、データセンター「Powerico(パワリコ)」の活用ポイントを解説します。

AIインフラの基礎知識:学習と推論で異なる負荷と要件

顧客のAI導入に関するニーズは、主に「モデルを構築する学習フェーズ」と「モデルを利用する推論フェーズ」の2つに分けられます。
いずれも従来のWebシステムとは比較にならないほど高負荷な計算処理を伴うため、インフラ選定の基準を根本から見直す必要があります。

モデルを構築する「学習フェーズ」の圧倒的負荷

モデル構築のための学習フェーズでは、膨大なデータを処理するために数週間から数ヶ月にわたりGPUをフル稼働させます。そのため、このフェーズでの最重要課題は「瞬間的な処理能力」以上に、発生し続ける熱を処理する「冷却能力」と、大量の電力を供給し続ける「電源容量」の持続性となります。

しかし、一般的なオフィスや既存のサーバールームは、1ラックあたりの電源容量がそこまで大きくありません。ハイエンドなGPUサーバーを導入しようとしても、そもそも設置できないという物理的な壁に直面するケースが多発しています。

現場で動かす「推論フェーズ」の多様な課題

完成したモデルを稼働させる推論フェーズでは、ユーザーへの即応性(リアルタイム性)と、利用者の増加に合わせた柔軟な拡張性(スケールアウト)が求められます。
また、サービス提供のために24時間365日の稼働が必要になるので、電気代やラック利用料といったランニングコストが利益を圧迫しやすい傾向にあります。

そのため、いかに機器を高密度に収容してラック数を抑え、コストを圧縮するかという「高集積化」が収益確保の鍵となります。

GPUサーバー導入を阻む3つの壁

なぜ、一般的なデータセンターやオフィスビルのサーバールームでは、生成AI向けのGPUサーバーの運用が難しいのでしょうか。その理由は、従来のWebシステムを想定したインフラ設備ではどうしても乗り越えられない、「電力」「排熱」「重量」という物理的な3つの「壁」が存在するからです。

これらの課題を無視してプロジェクトを進めると、導入後に「稼働できない」「コストが合わない」という事態を招きかねません。

電力の壁:1ラックあたりの電源容量不足

多くの一般的なデータセンターでは、1ラックあたりの標準的な電源容量が4kVA〜8kVA程度で設計されています。対して、最新のハイエンドGPUサーバーは、たった1台で数kVAもの電力を消費することも珍しくありません。

そのため、標準的なスペックのラックでは、物理的な搭載スペース(U数)が十分空いていても、GPUサーバーを数台設置しただけで電源容量の上限に達してしまいます。
結果として、必要な台数を稼働させるために「電力確保のためだけに余分なラックを何本も借り増しする」という事態が発生し、ラック利用料の肥大化や、サーバーが複数のラックに散らばる「非効率な分散配置」を強いられることになります。

排熱の壁:ホットスポットによる故障リスク

GPUサーバーは、学習計算などの高負荷がかかると非常に高い熱を発します。一般的な空調設備のデータセンターでは、この高熱を効率的にラック外へ排出しきれず、ラック内や周囲にホットスポット(局所的な高温地帯)が発生しやすい状況です。

サーバーが熱を検知すると、機器を守るために処理性能を強制的に落とす「サーマルスロットリング機能」が働きます。その結果、本来のGPUサーバーの性能が発揮できず学習時間が延びるだけでなく、最悪の場合は熱暴走によるハードウェアの故障や、予期せぬシステム停止(シャットダウン)を招く恐れがあります。高額な投資をしたGPUサーバーが、サービスに致命的な損害を与えるリスク要因となっては本末転倒です。

床荷重の壁:サーバー重量の増加

電力と熱に加え、意外な落とし穴となるのが重量です。最新のGPUサーバーは、発熱を抑えるための巨大なヒートシンク(冷却装置)や、実装した高密度な部品の影響で、1台あたりの重量が増加しています。

一般的なオフィスビルや従来の標準的なデータセンターの床荷重規格の多くは500kg/㎡程度です。しかし、GPUサーバーをラックへ高密度に設置しようとすると、この制限を容易に超過してしまいます。
そのため、建物の安全基準で設置自体を断られたり、重量分散のために設置密度を下げざるを得なかったりと、設置場所が限定される要因となるのです。

SIerの提案力を強化するPowericoの圧倒的ファシリティ

こうした物理的な課題を解決し、GPUインフラ提案が成立する前提条件を備えているのが、STNetのデータセンター「Powerico(パワリコ)」です。電力・排熱・設置といった制約をあらかじめクリアできるため、SIerは実装可能性を前提に、構成や運用を具体化できます。

「1ラック最大定格21kVA」が実現する集約メリット

Powericoは、1ラックあたり「最大定格21kVA」という、高い電源供給力を実現しています。 一般的な環境では、電源容量の限界から複数のラックに分散させざるを得なかった高出力なGPUサーバー群も、Powericoであれば1ラックに集約して設置が可能です。利用するラック数を物理的に減らせるため、毎月の固定費(ラック利用料)を大幅に圧縮できます。
このコストメリットを活かし、自社の利益率を高めたり、顧客への提示価格を下げて競合優位性を確保したりといった戦略的な価格設定が可能になります。

「カスケード空調」と「床荷重1,500kg/㎡」による安定運用

冷却設備には「PACエアコン」を導入しているほか、一部の棟ではより高負荷な運用への対策として「カスケード空調」も採用しています。下の階で蓄えた冷気を上の階へ大量に送り込むことで、効率的に熱を逃がし、故障の原因となるホットスポットの発生を未然に防ぎます。

また、床荷重は従来の標準的なデータセンターの規格の3倍にあたる1,500kg/㎡に対応しています。重量級のGPUサーバーを満載しても余裕のある設計で、将来的な機器増設や、より重量のある次世代機へのリプレイスにも安心して対応できる拡張性を備えています。

西日本の香川県を拠点とするPowericoを首都圏のSIerに提案すべき理由

なぜPowericoは香川県に拠点を置いているのでしょうか。その理由を顧客に説明する際は、BCP(事業継続計画)とDR(災害復旧)の観点が欠かせません。とりわけ地理的・地質的なデータに基づく「災害リスクの低さ」と「首都圏との同時被災回避」は大きな説得力になるでしょう。

過去100年「震度6以上ゼロ」という絶対的な安心感

Powericoが立地する香川県は、地震影響の少ない地域です。気象庁のデータベースによると、過去100年間(1919年〜2023年)において震度6以上の地震は一度も発生しておらず、震度5以上もわずか3回のみです。 さらに、南海トラフ地震で懸念される液状化の危険度(PL値)も「0(極めて低い)」と判定されています。

また、建物自体も高減衰積層ゴムとオイルダンパーを組み合わせた免震構造を採用しており、地盤と建物の両面から高い安全性を確保しています。

津波・火山・電力不足リスクからの解放

Powericoは海抜14.5mという、南海トラフ地震発生時に想定される津波の高さ(満潮時3m)を大きく上回る場所に位置しています。 さらに、半径100km圏内に活火山が存在しないため、降灰による大気悪化や停電による影響でシステムダウンするといったリスクもありません。

また、首都圏とは異なる電力管轄(四国電力送配電エリア)かつ、異なる大陸プレート(ユーラシアプレート)上に位置するため、首都圏での大規模停電や電力逼迫時のリスク分散としても理想的な選択肢といえます。

自社設備を持たないSIerが活用すべきパートナー制度

自社でデータセンターやクラウド基盤を持たないSIerにとって「巨額の設備投資を避けつつ、顧客からの高度なインフラ要望にどのように応えるか」が大きな鍵となります。
そこで活用したいのが、リスクなしで自社の提案の幅を広げられるSTNetのパートナー制度です。

AWS/Azure/Google Cloudとは異なる共創の再販モデル

AWSやAzure、Google Cloudなどの大手パブリッククラウドで認定パートナーになるには、厳しい販売ノルマや有資格者の確保といった高いハードルがあり、参入に多大なリソースを要します。 対してSTNetのパートナー制度にはノルマや複雑な条件がありません。

「Powerico」や「STクラウド サーバーサービス[FLEXタイプ]」を柔軟に再販できるほか、「GPUサーバーはハウジング、Webサーバーはクラウド」といったハイブリッド構成も自在に提案できるため、商材のラインナップを即座に強化できます。

運用負荷をゼロにする「マネージドサービス」の活用

「遠隔地の香川県だと、トラブル発生時にすぐ駆けつけられない」という不安も、Powericoの「マネージドサービス」で解決できるでしょう。

たとえば、マネージドサービスの1つである「リモートハンズサービス」は、STNetの専門技術者が24時間365日体制で現地作業を代行します。 電源のOFF/ONやケーブル差抜、ランプ確認、配送荷物の受け取りまで現地スタッフが対応するため、SIerの担当者がわざわざ現地へ出向く手間とコストを最小限に抑えられます。

GPUインフラ提案を成立させるパートナー活用という選択肢

生成AIの社会実装が進む中、インフラ選定においては「学習フェーズ」と「推論フェーズ」のそれぞれに適した要件を見極めることが重要です。 特に、GPUサーバー運用につきまとう「電力・排熱・重量」という物理的な壁、BCP対策としての「立地選定」は、一般的なオフィスやデータセンターでは解決が難しい課題です。

しかし、上記の課題を解決するために自社で設備を保有することが正解とは限りません。大切なのは、こうした物理的な制約をクリアできる専門のデータセンターをパートナーとして活用することです。Powericoのようなデータセンターを利用することで、投資リスクを抑えつつ顧客の高度な要望に応えることが可能になるでしょう。

「顧客からGPUサーバーの相談を受けているが、自社の設備や現行のクラウドでは対応しきれない」「具体的な設置プランをプロと一緒に練りたい」といったお悩みがございましたら、まずはお気軽にご相談ください。次世代インフラ提案に向けた新たな一歩を、全力でサポートさせていただきます。

この記事で紹介しているサービス

Powerico(パワリコ)

自然災害リスクの低い安全な立地と高信頼のファシリティ、多様な運用サービスで、お客さまのサーバーを安全に保管・運用します。