1. 핵심 개념과 기술 원리
도시 AI 영상 감시 하드웨어 아키텍처는 본질적으로 영상 스트림을 대상으로 실시간 추론을 수행하는 임베디드 시스템이다. 보통 프런트엔드 인지 계층, 엣지 컴퓨팅 계층, 중앙 조정 계층으로 구성된다. 프런트엔드 인지 계층은 이미지 센서, 이벤트 카메라, 밀리미터파 레이더를 포함해 원시 데이터 획득을 담당한다. 엣지 컴퓨팅 계층은 오늘날 가장 많이 변하는 부분으로 저전력 NPU나 AI 가속 칩을 중심으로 객체 검지, 행동 인식, 속성 추출 같은 추론 작업을 맡는다. 중앙 조정 계층은 카메라 간 궤적 연결, 데이터 보관, 모델 재학습을 수행한다.
카메라가 촬영만 하고 백엔드 서버가 중앙 집중 분석하던 초기 아키텍처와 달리, 새로운 세대는 추론 능력을 엣지 박스나 카메라 내부에 직접 둔다. 40~60 TOPS급 온칩 AI 엔진은 이미 로컬에서 경량 대형 모델을 실행하고 차량, 보행자, 이륜차의 실시간 구조화를 완료할 수 있다. 그 기술적 동력은 NVIDIA의 Blackwell Ultra와 Rubin 아키텍처 로드맵에서 추론 성능과 HBM4 메모리를 강화한 흐름과, AMD의 Instinct MI350/MI400 시리즈가 CDNA4 아키텍처와 3nm 공정을 채택한 뒤 고급 학습 및 추론 시장을 직접 겨냥한 흐름이다. Intel Gaudi 3와 이후 Falcon Shores 아키텍처는 개방형 생태계와 가격 대비 성능을 강조해 통합 사업자에게 더 많은 선택지를 준다.
2. 주요 제품과 솔루션 비교
하드웨어 형태 측면에서 도시 AI 영상 감시는 현재 세 가지 주요 기술 노선을 가진다.
첫째는 스마트 카메라 노선으로 NPU를 카메라 메인보드에 직접 통합한다. 장치당 연산은 보통 4~20 TOPS이며 단일 지점 객체 검지와 번호판 인식에 적합하다. 장점은 배치가 간단하고 배선이 적다는 점이고, 단점은 연산이 제한되어 멀티모달 융합 모델을 실행하기 어렵다는 점이다.
둘째는 엣지 AI 박스 노선이다. 독립형 박스가 기가비트 포트나 PoE로 여러 일반 카메라를 연결하고 연산은 40~60 TOPS 이상을 커버하며 8~16개 영상 스트림을 동시에 처리한다. 기존 감시 시스템의 지능형 개조에 적합하며 프런트엔드 장치를 모두 교체할 필요가 없다.
셋째는 중앙 가속 카드 노선이다. Blackwell Ultra나 MI350 시리즈 기반 추론 카드를 기계실에 배치해 도시 전체 영상 집계와 분석을 수행한다. 장점은 연산 풀링과 손쉬운 모델 갱신이지만 높은 네트워크 대역폭과 낮은 지연을 요구하며 보통 엣지 박스와 클라우드-엣지 협업을 구성한다.
세 노선은 상호 배타적이지 않다. 실제 프로젝트에서는 스마트 카메라가 1차 필터링을, 엣지 박스가 구역 수준 구조화를, 중앙 가속 카드가 전역 검색과 장주기 분석을 담당해 계층화된 추론 아키텍처를 이룬다.
3. 스마트 시티 AI 하드웨어의 전형적 응용 시나리오
교통 관리는 배치 밀도가 가장 높은 시나리오다. 도시가 간선도로의 기존 교통 단속 카메라와 함께 엣지 AI 박스를 배치한다고 가정하면, 불법 차로 변경, 보행자 양보 위반, 긴급 차로 점유를 실시간으로 식별하고 구조화 결과를 신호 제어기에 푸시해 신호 주기를 최적화할 수 있다. 이벤트 카메라와 밀리미터파 레이더의 융합은 비와 안개에서 비전의 부족함도 보완한다.
공공 안전에서 캠퍼스가 스마트 카메라와 엣지 박스로 주변부를 보호하고, 담장 넘기, 배회, 유기된 물체에 대해 현지 경보를 발생시키며 경보 클립만 되돌려 보내 대역폭 사용을 크게 줄인다.
도시 관리에서 위생 업체가 덤프트럭의 적재물 낙하를 감시해야 한다고 가정하면 엣지 박스가 낙하 검지를 로컬에서 완료해 모든 영상 스트림을 기계실로 보내지 않아도 된다. 산업 검사와 로보틱스 시나리오도 같은 아키텍처를 재사용하고 있으며, 뉴로모픽 컴퓨팅과 이벤트 카메라의 조합이 저지연 인지를 가능하게 한다.
4. 선정 기준과 배치 권장 사항
첫째, 연산을 채널 수에 맞춘다. TOPS만 보지 말고 특정 모델에서의 실제 프레임 레이트와 정확도를 물어야 한다. 둘째, 메모리 대역폭을 본다. HBM4는 고급 추론 카드의 처리량을 눈에 띄게 높이고, 엣지 박스는 LPDDR5 용량과 대역폭에 주의해야 한다. 셋째, 생태계 호환성을 본다. ONNX, TensorRT 등 주류 추론 프레임워크 지원 여부가 모델 이전 비용을 결정한다. 넷째, 전력과 냉각을 본다. 엣지 장치는 약전 샤프트나 가로등에 설치되는 경우가 많아 팬리스 설계가 더 신뢰할 만하다.
배치에서는 먼저 시나리오를 분류한다. 고가치 구역은 스마트 카메라와 엣지 박스를 모두 두어 이중 안전장치를 하고, 일반 구역은 일반 카메라와 공유 엣지 박스 연산을 사용하며, 백엔드는 중앙 가속 카드로 전역 검색을 수행한다. 네트워크 계획은 PoE 전력과 업링크 대역폭을 확보해 다중 영상 스트림의 혼잡을 피해야 한다.
5. 기술 동향과 전망
연 단위 칩 반복 주기가 가속되고 있다. NVIDIA의 Blackwell Ultra에서 Rubin으로의 로드맵, AMD의 MI350에서 MI400으로의 진전, Intel의 Falcon Shores 통합은 모두 엣지 AI 하드웨어의 연산 밀도가 계속 높아지고 전력 대비 성능이 더 개선된다는 뜻이다. AI PC와 산업용 엣지 박스는 흔히 40~60 TOPS급 온칩 AI 엔진을 탑재해 로컬 대형 모델 추론이 더 이상 플래그십 스마트폰 전유물이 아니다.
멀티모달 융합은 또 하나의 분명한 방향이다. 이벤트 카메라, 밀리미터파 레이더, 뉴로모픽 컴퓨팅이 같은 보드에 올라와 산업 검사, 로보틱스, 자율주행에서 저지연 인지를 달성한다. 도시 AI 영상 감시 하드웨어는 궁극적으로 단일 장치 간 성능 경쟁이 아니라 분산되고 다중 센서가 협조하는 실시간 추론 네트워크로 진화할 것이다. 벤더와 업계의 경쟁 초점도 최고 연산에서 와트당 추론 효율과 생태계 개방성으로 이동할 것이다.