ここ2年、スマートシティ事業は『カメラを積む』段階から『演算を積む』段階へと移行した。中規模の行政区ひとつを取っても、その動画解析需要は十数種類のモデル群を同時に動かすことを要求する場合がある。行動認識、ナンバープレート追跡、煙と火災の検知、群衆ヒートマップなどである。これらのモデルのうち、リアルタイム応答を必要とするものもあれば、分単位のレポートで足りるものもある。それらが同じGPUを取り合えば、速さが必要なものが速くならず、安く済むべきものが安く済まないという結果になる。クラスタ計画の第一歩は、最も高価なカードを買うことではなく、遅延感度とスループットによってタスクを三つの層に分けることである。中央トレーニング層、地域推論層、エッジセンシング層の三つだ。
1. 中核となる概念と技術原理
AIサーバクラスタは、単に機械を積み上げたものではない。演算スケジューリング、データパイプライン、モデルのライフサイクル管理という三つの水準で問題を解かなければならない。演算スケジューリングは誰が先にカードをどれだけの時間使うかを決める。データパイプラインは映像ストリームとセンサーデータが低遅延で推論ノードに届くかどうかを決める。モデルのライフサイクル管理はトレーニングから投入、反復までの全経路を担う。スマートシティの現場では、この三つが部門やネットワークドメインをまたぐことが多いため、クラスタ計画は当初から異種ハードウェアの共存を考慮しなければならない。NVIDIAのGPU、AMDのアクセラレータカード、IntelのCPUとNPUの組み合わせ、さらにはエッジ側のNPUモジュールまで、すべてを同一のスケジューリング枠組みに収める必要がある。
2. 主要製品とソリューションの比較
スマートシティ向けAIサーバクラスタのハードウェア選定は、現状おおむね三つの路線に分かれる。
第一はNVIDIA路線である。Blackwell Ultra(GB300)と後継のRubinアーキテクチャは推論性能を新たな水準へ押し上げ、HBM4メモリによって大規模モデルは常駐のボトルネックに直面しなくなった。中央側での大規模な映像構造化トレーニングや、都市レベルの大規模モデル推論に適する。欠点は消費電力と冷却要求が高く、データセンターの改修に厳しい条件を課すことだ。
第二はAMD路線である。Instinct MI350シリーズはCDNA4アーキテクチャに基づき、推論のコスト対性能を狙い、メモリ容量と帯域はBlackwellを基準にしている。モデル数が多く個々のモデルが小さく同時ストリーム数が多いスマートシティの現場では、単位演算量あたりのコストで優位に立つ。地域推論ノードでのバッチ配置に適する。
第三はIntel路線である。Panther LakeとClearwater ForestはNPUをCPUに統合し、エッジAI PCとデータセンターのエネルギー効率で明確な改善をもたらす。街路側のエッジボックス、交差点の信号制御機、バス停など、軽量な検知モデルを動かせれば足りる低消費電力の場面に適する。
この三路線は排他的な関係ではない。実際の計画では、中央はNVIDIAでトレーニングと重量推論を担い、地域はAMDで映像解析をバッチ処理し、エッジはIntelのNPUで前段の絞り込みとイベント発火を担う。こうして演算の勾配が形成される。
3. スマートシティ向けAIハードウェアの典型的な応用場面
場面1:交通交差点のホログラフィック知覚。都市が幹線道路にイベントカメラとミリ波レーダー、AIエッジモジュールを配置したとしよう。交差点は現地で目標検知と軌跡予測を完了し、構造化された結果だけを地域ノードへ返す。地域ノードは推論カードで複数の交差点を統合し、中央クラスタは新しいモデルをトレーニングして配信する。この構成では帯域が節約され、応答が速まり、モデルの反復がリアルタイム運用を妨げない。
場面2:産業団地の安全管理。電子機器工場が危険化学品倉庫にAIセンサーとエッジ推論ボックスを配置し、保護具を着けない作業員、無断侵入、液体漏れといった事象を検知する。エッジボックスは現地で推論し、警報のスナップショットとメタデータだけを報告する。地域クラスタは工場をまたぐ統計とモデル最適化を行う。中央クラスタは新たな場面向けのモデルをトレーニングする。三層がそれぞれの役割を果たし、すべての映像ストリームを中央へ集める必要がなくなる。
場面3:都市ガバナンスにおける非機動車の違法駐車。こうした場面はモデル精度への要求が高くない一方、対象地点の数が膨大である。エッジNPUが一次スクリーニングを行い、地域クラスタが二次確認を担い、中央はモデル更新と全体分析だけを扱う。演算コストは大きく下がる。
4. 選定の優先順位と導入の推奨事項
第一に、トレーニング需要を計算する前に推論ストリームを数えること。多くのスマートシティ事業は演算の8割を推論に費やしながら、カード購入をトレーニングのピークに合わせて計画するため、推論時のGPU稼働率が30%を下回る結果になる。推論ストリームにストリームあたりの演算需要を掛けて逆算し、地域ノードの規模を決め、中央のトレーニングは週次のバッチジョブとして待ち行列に載せるとよい。
第二に、エッジノードの大型化と万能化を追わないこと。交差点のボックスは軽量モデルを三つから五つ動かせれば十分であり、それを超えると冷却もコストも成り立たない。複雑なモデルは地域クラスタに任せる。
第三に、ネットワーク計画はサーバ選定よりも重要である。映像ストリーム、センサーデータ、モデル配信、結果報告という四種類のトラフィックには、それぞれ別個のQoSチャネルが必要だ。そうでなければ、どんなに優れたカードでもデータを供給できない。
第四に、異種インターフェースを確保すること。スマートシティ事業は長期にわたり、ハードウェアの世代交代も速い。クラスタのスケジューリング層は異なるベンダーのアクセラレータカードを管理できなければならず、単一のサプライヤに縛られてはならない。
第五に、電力と冷却を3年先まで見通して計画すること。Blackwell UltraとMI350シリーズのカードはいずれも1枚あたりの消費電力が大きく、エッジNPUは電力効率が高いとはいえ、密度の上昇はなお気流設計を試す。データセンターの改修は事前に済ませておく必要がある。
5. 技術動向と展望
今後2年、スマートシティ向けAIサーバクラスタは三つの方向へ進む。一つは推論チップの専用化である。NVIDIAのRubinとAMDの後継アーキテクチャはいずれも推論効率を強化し、トレーニングと推論のハードウェア分業はより明確になる。二つはエッジNPUの演算性能の継続的な向上である。Qualcomm、MediaTek、Appleが牽引するスマートフォン、PC、ロボット上のローカル推論は、逆にスマートシティのエッジノードの形態を作り変える。1本の照明柱が数十TOPSを担う日が来るかもしれない。三つはAIセンサーとエッジモジュールの深度融合である。イベントカメラとミリ波レーダーはもはや取得装置ではなく、推論出力を備え、クラスタはこうした構造化イベントストリームを直接消費できなければならない。
スマートシティ向けAIサーバクラスタの計画は、本質的に演算コスト、応答遅延、カバレッジ規模の間の均衡である。万能の構成は存在せず、場面で層を分け、タスクでスケジュールし、周期で反復する動的な計画だけがある。15以上の業界で120社を超える顧客が同様の構成をすでに導入し、3,200台以上の端末がエッジ推論ノードに接続され、層化クラスタがスマートシティで実現可能であることが検証されている。今後、推論チップのコスト対性能が向上し続けるにつれ、エッジと地域の間の演算境界は再び引き直されるだろう。