スマートシティのAIサーバークラスタを計画する核心は、クラウドの推論演算プールとエッジ側のリアルタイム推論ノードを一枚の盤面の駒として扱うことであり、GPUサーバーをまとめて積み上げることではない。
この2年のスマートシティプロジェクトで明らかな変化が1つある。映像解析、交通スケジューリング、都市事案知覚といったワークロードが、データを中央拠点に引き戻して学習させる方式から、現場の近くで推論を実行する方式へと移ったことである。NVIDIAのBlackwell Ultra(GB300)シリーズは推論性能とHBM3e容量に重点を置き、AMDのInstinct MI350シリーズ(CDNA 4アーキテクチャ)は大規模モデル推論のコストパフォーマンスを狙い、IntelはGaudi 3とXeon 6を組み合わせて企業向け推論とオープンなエコシステムを訴える。3つの路線が語ることは同じである。スマートシティAIハードウェアの調達の重点は、学習クラスタから推論クラスタへ移りつつある。
1. 中核概念と技術原理
スマートシティのAIサーバークラスタは通常2層からなる。中央層は大規模モデル推論、部門横断のデータ融合分析、構造化映像の二次マイニングを担い、設備は主に8GPUまたは4GPUのサーバーで、メモリ容量とカード間インターコネクト帯域を重視する。エッジ層は交差点、キャンパス、工場にエッジAIボックスや小型推論サーバーの形で導入され、低消費電力、広温度、ネットワークなしでも動作する可用性を重視する。
技術的には、推論クラスタの主要指標はもはや生の浮動小数点演算性能ではなく、ワット当たりの推論スループットとメモリ帯域の利用率である。大規模モデル推論は帯域に敏感なワークロードであり、HBM3e容量を高める直接の利点は、より長いコンテキストとより大きなバッチを収められることで、カードを分けて処理する際の通信オーバーヘッドを減らせる。エッジはQualcommやMediaTekの高演算低消費電力NPUプラットフォームを活用し、視覚、振動、温度を対象とするマルチモーダルスマートセンサーのデータをローカルで一次推論し、構造化した結果だけを中央に返す。
2. 主要製品とソリューションの比較
中央側では現在、3つの主要路線がほぼ明確になっている。NVIDIA路線はエコシステムが成熟しており、GB300は推論場面で最も優れたソフトウェアスタック互換性を提供し、多数の視覚言語モデルを素早く立ち上げたい市政プラットフォームに適する。AMD MI350シリーズはメモリ構成と推論のコストパフォーマンスで優位に立ち、予算に敏感だが大パラメータモデルを動かしたい区級プラットフォームに魅力的である。Intel Gaudi 3とXeon 6の組み合わせはオープンなエコシステムと既存x86インフラとの連続性で優位に立ち、従来の政府クラウドからの円滑なアップグレードに適する。
エッジはまったく異なる論理に従う。AI PC形態は移動式取締や検査端末に適し、エッジボックスは街灯、機械室、工場内に固定される場面に適する。産業用AIハードウェアとAIセンサーの融合は今年の新しい変数である。視覚、振動、温度センサーが推論を内蔵すれば、エッジボックスがすべての推論タスクを担う必要はなくなり、クラスタ計画の粒度は交差点単位からデバイス単位へと細かくできる。
3. スマートシティAIハードウェアの典型的な応用場面
ある電子工場がスマートキャンパス管理を運営し、映像検査と人員行動分析をローカルのエッジノードで完了させ、異常クリップと統計だけを中央クラスタへ送り、中央クラスタは工場横断の比較とモデル反復に推論サーバーを使うとしよう。さらに、ある自動車部品会社が予知保全を導入し、振動・温度スマートセンサーが推論を自ら担い、エッジボックスが判定を集約し、中央クラスタはモデル配信と長周期のトレンド分析だけを担うとしよう。
都市レベルでは、信号最適化、路上販売の占有認識、ゴミ溢れ検出といったワークロードは区のエッジノードでのリアルタイム推論に適し、市の中央クラスタが全体スケジューリングとマルチモーダル融合を行う。この階層構造はバックホール帯域の負荷を大きく下げる。
4. 選定基準と導入の推奨
第1に、カード種別を選ぶ前に推論ワークロードのメモリ要件を計算する。スマートシティの大規模モデル推論は長いコンテキストと高い同時実行性を伴うことが多く、ピーク演算性能よりもHBM容量に注目すべきである。第2に、エッジノードはミニ中央クラスタを目指すべきではなく、NPUを備えた低消費電力プラットフォームと推論内蔵のスマートセンサーを選び、演算をデータが生まれる場所へ分散させるべきである。第3に、クラスタ計画は異種混在の余地を残さなければならない。中央側は単一アーキテクチャに固定する必要はなく、推論ワークロードは学習ほどソフトウェアスタックに依存しないため、適度な混在導入はコスト面の利点をもたらす。第4に、電源と冷却は持続的な推論負荷を前提に設計する。推論クラスタの電力曲線は学習クラスタより平坦だが、その持続時間ははるかに長く、機械室の計画ではこれを見落としがちである。
5. 技術動向と展望
RubinアーキテクチャのロードマップとMI400の進展は、今後2年で推論クラスタのメモリ帯域とエネルギー効率がもう一段上がることを意味する。より注目すべきはエッジである。AIセンサーが推論を当たり前に内蔵するようになれば、スマートシティAIサーバークラスタの境界は曖昧になり、中央クラスタとエッジボックスという2層構造は、中央クラスタとスマートセンサーの直接接続へと進化するかもしれない。クラスタ計画の方法論も、演算性能で機器を積み上げることから、データが生まれる場所で推論タスクを割り当てることへと移る。スマートシティのハードウェア選定に関わる人にとって、機械室の数台のサーバーだけを見つめるのではなく、センサーの推論能力をクラスタ計画に取り込む時期が来ている。