市級のAIコンピューティングセンターは、機器室にGPUを詰め込むことではなく、クラウド、エッジ、エンドの3層からなる演算のパイプラインに近い。センターが大規模モデルの訓練と市レベルの推論を担い、エッジがリアルタイムの映像ストリームとセンサーデータを消化し、エンドポイントがミリ秒級の応答を届ける。2025年から2026年にかけて、NVIDIA、AMD、Intelがいずれも推論性能とエネルギー効率を同時に強く押し出し、エッジAIボックスも急速に成熟しているため、スマートシティのハードウェア選定に新たな変数が生まれている。
I. 中核概念と技術原理
市のAIコンピューティングセンターには2種類の中核的な作業がある。バッチ推論、例えば都市のカメラが撮影した画像の日次の構造化解析や交通流の予測と、大規模モデルの微調整や軽量な訓練、例えば都市ガバナンスのデータでビジョン言語モデルを微調整することである。両者のハードウェアへの要求は異なり、バッチ推論はメモリ帯域とエネルギー効率を消費し、微調整は演算密度とカード間の相互接続を消費する。
現在の主流のソリューションの技術的な土台は、いくつかの要点に集約される。NVIDIAのBlackwell Ultra(GB300)はHBM3eの容量を288GBの水準まで押し上げ、推論のシーンで大規模モデルを常駐させる能力を重視し、続くRubinアーキテクチャは明確にHBM4を指し、2026年の量産を計画しているため、カードあたりのメモリ帯域はもう一段上がる。AMDのMI350やMI400シリーズはCDNA4アーキテクチャと3ナノメートルプロセスで、訓練と推論のエネルギー効率を狙って最適化し、大規模な並列推論を必要とする都市の映像解析に特に適する。Intelは別の道をとり、Xeon 6のプロセッサとGaudi 3のアクセラレータでセンター側の推論を担いつつ、18AプロセスのPanther LakeでエンドポイントのAI PCを配置し、演算をエッジへ押し出している。
エッジ側の論理はより直接である。膨大な数の都市のカメラとセンサーが生むデータを、すべてセンターへ戻すことはできない。NVIDIA Jetson Orinシリーズ、QualcommとMediaTekのエッジ推論チップ、イベントカメラや3DビジョンモジュールとNPUを組み合わせた融合ソリューションによって、交差点、工場地区、キャンパスが物体検出と行動の認識をローカルで完結させ、構造化された結果だけを返せる。
II. 主流製品・ソリューションの比較
センター側の訓練と推論の統合ソリューションのうち、現在の3つの路線は重点が異なる。NVIDIAの路線はエコシステムが最も成熟し、GB300は推論のシーンで明確なメモリの優位を示し、市レベルのビジョンやマルチモーダルモデルに適するが、消費電力と冷却の設計の要求が高い。AMDのMI350やMI400の路線はエネルギー効率で競争力があり、3ナノメートルプロセスによるワットあたりの性能向上は電力に敏感な都市のコンピューティングセンターに訴え、ソフトウェアスタックの成熟度も急速に追い上げている。Intelの路線はCPUとAIアクセラレータの協調で勝ち、Xeon 6がデータの前処理とスケジューリングを担い、Gaudi 3が推論を加速するため、x86の基盤が十分にあり必要に応じて拡張したい都市に適する。
エッジ推論ボックスでは、Jetson Orinシリーズが事実上の参照設計であり、数十TOPSから200TOPS超までの演算をカバーし、交差点の信号最適化や違法駐車の検出に適する。QualcommとMediaTekのソリューションはAI PCや軽量なエッジボックスに傾き、コストに敏感な大規模な導入で優位がある。産業のシーンでは、イベントカメラとエッジNPUモジュールの組み合わせが、高速のライン検査で従来のフレームカメラを置き換えつつある。イベントカメラは変化した画素だけを出力するためデータ量が少なく遅延も低く、NPUでリアルタイムに判断すればスマートマニュファクチャリングやロボットの知覚に適する。
選定で見落とされやすい点が一つある。センターとエッジのツールチェーンが統一されているかである。センターが一つのフレームワークで訓練し、エッジが別のランタイムで動かすなら、モデルの変換と精度の整合に大量のエンジニアリングの時間が費やされる。業界では現在、導入の摩擦を減らすため、センターの訓練のフレームワークとエッジの推論SDKを同じ系統で揃えることが好まれる。
III. スマートシティAIハードウェアの典型的な応用シーン
交通ガバナンスは最も典型的なシーンである。都市が主要な交差点にエッジ推論ボックスを配備し、既存のカメラを接続してリアルタイムの交通検出と信号のタイミングの最適化を行い、データをローカルで処理して流量の統計と異常事象だけをセンターへ返すとする。センターはGPUのクラスタで市全体の交通流の予測を動かし、1日に1回全量の推論を行って最適化の戦略をエッジへ配信する。この構成では、エッジボックスがミリ秒の応答を担い、センターが分から時間の単位で全体の最適化を担う。
もう一つの都市ガバナンスのシーンは映像の構造化である。区が既存のカメラをセンター側の推論クラスタに接続し、大規模モデルで複数のストリームを横断する意味検索を行う。例えば、ある期間にある区間に現れた工事車両を探すといったことである。こうした作業は大きなメモリ容量を必要とし、GB300級のカードなら複数のモデルのインスタンスを同時に常駐させられ、モデル切り替えのオーバーヘッドを減らせる。
産業のシーンはより分散している。自動車部品会社がラインで表面欠陥の検出を行いたいとする。従来の方法はフレームカメラを載せた産業用PCだが、今は3DビジョンモジュールとエッジNPUでローカルに推論し、異常なフレームだけを保存できるため、帯域とストレージのコストを同時に削減できる。イベントカメラはロボットの把持時の姿勢補正のような高速の動きのシーンでさらに優位があり、従来のカメラのフレームレートでは足りないところを、イベントカメラとNPUでマイクロ秒級の応答を実現する。
コミュニティやキャンパスのシーンでは、エッジ推論ボックスが顔認証の入退室、消防車の通路の妨害の検出、高空からの投物の認識を担う。こうしたシーンは地点が多く1地点あたりの演算の需要が小さいという特徴があり、低消費電力のエッジボックスの大規模な導入に適し、センターはモデルの配信と例外の確認だけを担う。
IV. 選定基準と導入提案
まず演算を作業の種類に合わせる。バッチの映像構造化の推論ならメモリ容量とエネルギー効率を優先し、訓練と微調整なら演算密度とカード間の相互接続の帯域を優先する。訓練用カードの指標で推論カードを選んだり、その逆をしたりしてはならない。
次にエッジとセンターの協調を見る。エッジボックスがセンターで訓練したモデルの変換と配備に直接対応するか、推論の精度の低下が許容範囲に収まるかは、単点の演算以上に導入全体の効率に影響する。
第三に冷却と電力の境界条件を見る。都市のコンピューティングセンターは専用でない機器室に置かれることが多く、エッジボックスは高温、粉塵、振動に直面する。選定の段階で電力の予算と冷却の方式を固めておくほうが、後から改造するより安い。
第四にサプライチェーンの継続性を見る。AIチップの更新は速いため、ベンダーのロードマップが明確か、ソフトウェアスタックが活発に保守されているかを確認する。NVIDIAのRubinのロードマップ、AMDのCDNAの更新の周期、Intelのプロセスの計画は、いずれも長期的な入手性を判断する材料になる。
展開の順序としては、まずセンター側の推論クラスタを作り、エッジの拠点をバッチで配備する。映像の構造化や交通ガバナンスといった高頻度のシーンを先に動かし、その後、産業の検査やコミュニティのガバナンスへ徐々に広げる。ERPの時代から数十年にわたりこの分野で事業を営み、国内外で120万社の顧客に数千万台の端末を提供してきたハードウェアのベンダーは、大規模なエッジの導入と運用の体制に蓄積が深く、エッジボックスの製品はバッチの納品と遠隔の管理で成熟していることが多い。
V. 技術動向と展望
2026年から先を見ると、3つの傾向がかなり明確である。第一にHBM4の到来でセンター側の推論カードのメモリ帯域が倍になり、市レベルのマルチモーダル大規模モデルのリアルタイム推論が日常になる。第二にエッジのNPU演算が上へ伸び、Jetson Orinの後継製品や国内のエッジチップが100TOPS級の演算をより低い電力の範囲へ持ち込み、交差点やラインでのローカル推論を強化する。第三にセンサーと演算が収斂し、イベントカメラや3DビジョンモジュールがNPUを内蔵して前端で処理するため、データはセンサーで選別され、価値の高い情報だけがセンターへ戻る。
市のAIコンピューティングセンターの構築にとって、ハードウェアの選定は最も高価なカードを買うことではなく、センターの推論、エッジの推論、エンドポイントの知覚の間の演算の比率を計算することである。センターはメモリとエネルギー効率を追い、エッジは協調と電力を追い、エンドポイントは応答とコストを追う。3つの線が揃えば、ソリューション全体は安定して動く。