Trung tâm kiến thức
Mục lục

Kiến trúc phần cứng cho giám sát video bằng AI cấp thành phố

Cốt lõi của kiến trúc phần cứng giám sát video bằng AI cấp thành phố đã chuyển từ sự kết hợp thô sơ giữa camera độ nét cao cộng máy chủ phía sau sang một hệ thống tính toán dị thể ba tầng: suy luận bằng NPU ở đầu cuối, hợp nhất đa cảm biến tại biên và phối hợp mô hình lớn trên đám mây. Trong các dự án thành phố thông minh, việc các NPU công suất thấp tại biên có thể trích xuất dữ liệu có cấu trúc về người, phương tiện và sự kiện hay không, và sau đó các bộ tăng tốc AI năng lực tính toán cao có thể thực hiện theo dõi liên camera và tìm kiếm ngữ nghĩa hay không, quyết định trực tiếp tính thời gian thực, chi phí băng thông và TCO tổng thể của hệ thống.

1. Khái niệm cốt lõi và nguyên lý kỹ thuật

Kiến trúc phần cứng giám sát video bằng AI cấp thành phố thường gồm tầng cảm nhận, tầng tính toán biên và tầng suy luận trung tâm. Tầng cảm nhận không còn chỉ là các cảm biến hình ảnh CMOS thông thường mà là các mô-đun cảm biến AI kết hợp cảm biến thị giác hướng sự kiện, radar sóng milimét và NPU công suất thấp. Thị giác hướng sự kiện chỉ xuất dữ liệu cho những điểm ảnh có độ sáng thay đổi, và trong cảnh ít hoạt động hoặc vào ban đêm, công suất có thể giảm xuống mức mili oát, phù hợp với số lượng lớn cột đèn, trạm xe buýt và cổng khu dân cư trong một thành phố thông minh.

Tầng tính toán biên lấy chip AI nhúng làm trung tâm. Các nền tảng biên hiệu năng cao tiêu biểu là NVIDIA Jetson Thor hướng tới robot và sản xuất thông minh, hỗ trợ điều khiển thời gian thực và suy luận song song trên nhiều kênh video. Các chip NPU năng lực tính toán cao, công suất thấp của Qualcomm, MediaTek và Apple làm cho suy luận mô hình lớn ngay trên thiết bị trở nên khả thi, ví dụ hoàn tất nhận dạng biển số xe, so sánh khuôn mặt và phân tích hành vi ngay trong camera rồi chỉ tải kết quả có cấu trúc lên đám mây.

Tầng suy luận trung tâm dựa vào các bộ tăng tốc AI cấp trung tâm dữ liệu. NVIDIA Blackwell Ultra tập trung vào hiệu năng suy luận và bộ nhớ HBM4, đồng thời lên kế hoạch sản xuất hàng loạt nền tảng Rubin vào năm 2026; dòng MI350 của AMD dựa trên kiến trúc CDNA4 với MI400 đang được lên kế hoạch; Intel tiếp tục tiến tới các GPU Gaudi 3 và Falcon Shores. Các bộ tăng tốc này chủ yếu xử lý những nhiệm vụ nặng như tái tạo quỹ đạo liên camera, tìm kiếm dựa trên hình ảnh và phân tích ngữ nghĩa sự kiện cấp thành phố.

2. So sánh các sản phẩm và giải pháp chủ đạo

hình minh họa

Theo hình thức triển khai, các giải pháp phần cứng giám sát video bằng AI cấp thành phố đại thể chia thành ba loại.

Loại thứ nhất là giải pháp camera thông minh đầu cuối. Bộ điều khiển chính dùng chip NPU công suất thấp với năng lực tính toán thường từ vài TOPS đến vài chục TOPS và hỗ trợ suy luận cục bộ trên 1 đến 4 kênh video. Ưu điểm là sử dụng băng thông thấp, phản hồi nhanh và dữ liệu riêng tư không bao giờ rời khỏi hiện trường; nhược điểm là năng lực tính toán hạn chế, khiến việc chạy các mô hình lớn phức tạp trở nên khó khăn.

Loại thứ hai là giải pháp hộp AI biên, tiêu biểu là dòng NVIDIA Jetson và các mô-đun suy luận biên trong nước; một thiết bị có thể kết nối 8 đến 32 kênh video và hỗ trợ hợp nhất đa cảm biến cùng điều khiển thời gian thực. Nó phù hợp cho nút giao thông giao thông thông minh, vành đai công viên và kiểm tra công nghiệp. Sau khi một nhà máy điện tử triển khai hộp AI biên bên cạnh dây chuyền SMT, việc hợp nhất thị giác hướng sự kiện với radar sóng milimét đã cho phép cảnh báo ở mức mili giây đối với hành vi không an toàn của người vận hành và tình trạng thiếu vật tư.

Loại thứ ba là giải pháp cụm bộ tăng tốc AI trung tâm, sử dụng các card tăng tốc như Blackwell Ultra, dòng MI350 hoặc Gaudi 3 cùng lưu trữ băng thông cao và kết nối tốc độ cao để hỗ trợ suy luận theo lô và huấn luyện mô hình trên nền tảng đám mây video cấp thành phố. Ba cách tiếp cận này không loại trừ lẫn nhau; các dự án thực tế thường dùng kiến trúc kết hợp giữa suy luận nhẹ ở đầu cuối, tính toán trung bình tại biên và khối lượng công việc nặng tại trung tâm.

3. Các tình huống ứng dụng điển hình của phần cứng AI cho thành phố thông minh

1. Giao thông thông minh. Các nút giao thông triển khai thiết bị radar sóng milimét và camera AI hợp nhất, tầng biên hoàn tất thống kê lưu lượng giao thông, phát hiện vi phạm và tối ưu chu kỳ tín hiệu, còn trung tâm dùng bộ tăng tốc AI để mô phỏng tình hình giao thông toàn thành phố.

hình minh họa

2. An toàn công cộng. Camera NPU đầu cuối tại các khu dân cư và khu thương mại trích xuất đặc trưng người đi bộ, khuôn mặt và phương tiện theo thời gian thực, các nút biên thực hiện theo dõi liên camera, và nền tảng trung tâm thực hiện tìm kiếm dựa trên hình ảnh cùng tái tạo quỹ đạo.

3. Công nghiệp và công viên. Giả sử một công ty phụ tùng ô tô triển khai cảm biến thị giác hướng sự kiện và nút tính toán biên công suất thấp tại vành đai nhà máy và trong kho hóa chất nguy hiểm để phát hiện xâm nhập và nhận dạng khói, lửa, đồng thời dùng một nền tảng cấp Jetson Thor cho điều độ AGV và điều khiển cánh tay robot theo thời gian thực.

4. Quản trị đô thị. Cột đèn tích hợp cảm biến AI nhận dạng bán hàng rong không phép, rác thải tích tụ và nắp hố ga bất thường, chỉ tải lên các đoạn sự kiện và nhãn có cấu trúc, giúp giảm mạnh băng thông truyền về.

Trong những tình huống này, lựa chọn phần cứng chỉ là bước đầu tiên; khó khăn kỹ thuật nằm ở việc quản lý và lập lịch NPU đầu cuối, bộ tăng tốc biên và cụm GPU trung tâm như một thể thống nhất. Trong tích hợp phần cứng AI công nghiệp, ZEVON có thể đưa các bộ tăng tốc AI, thiết bị biên và cảm biến của nhiều nhà cung cấp khác nhau vào một khung quản lý duy nhất để năng lực tính toán được phân bổ theo nhu cầu cho từng nhiệm vụ thuật toán cụ thể. ZEVON ESOP cũng cung cấp khả năng truy cập phần cứng AI được chuẩn hóa cho việc phối hợp thiết bị và điều phối nhiệm vụ tại hiện trường công nghiệp, giúp các đơn vị tích hợp hệ thống giảm công việc thích ứng lặp lại. ZEVON hiện phục vụ hơn 120 khách hàng trên hơn 15 ngành, với tổng cộng tích lũy hơn 3.200 thiết bị đầu cuối đang vận hành trong các tình huống công nghiệp và đô thị.

4. Tiêu chí lựa chọn và khuyến nghị triển khai

Thứ nhất, khớp năng lực tính toán với thuật toán. Đừng chạy theo TOPS cao một cách mù quáng; trước tiên hãy làm rõ đầu cuối phải chạy bao nhiêu mô hình, ở độ phân giải và tốc độ khung hình nào. NPU công suất thấp phù hợp cho trích xuất có cấu trúc nhẹ, trong khi phân tích ngữ nghĩa nặng nên đặt trên bộ tăng tốc trung tâm.

hình minh họa

Thứ hai, chú ý băng thông bộ nhớ. Suy luận mô hình lớn rất nhạy với băng thông HBM và LPDDR; Blackwell Ultra và dòng MI350 đều nhấn mạnh HBM4 và bộ nhớ băng thông cao, còn tại biên thì băng thông LPDDR5X thực tế cũng quan trọng.

Thứ ba, coi trọng năng lực hợp nhất cảm biến. Việc hợp nhất thị giác hướng sự kiện, sóng milimét và ảnh nhiệt hồng ngoại có thể giảm đáng kể báo động giả. Khi lựa chọn, hãy xác nhận phần cứng có hỗ trợ đầu vào đồng bộ từ nhiều cảm biến dị thể hay không.

Thứ tư, xem xét mô-đun hóa và khả năng mở rộng. Phần cứng AI công nghiệp đang trở nên mô-đun, và các nền tảng như Jetson Thor cho phép thay thế mô-đun tính toán, giúp việc nâng cấp lên năng lực tính toán cao hơn sau này dễ dàng hơn mà không phải thay toàn bộ thiết bị.

Thứ năm, phân tầng năng lực tính toán khi triển khai. Đầu cuối thực hiện lọc cấp một, tầng biên thực hiện tổng hợp cấp hai và trung tâm thực hiện phân tích sâu cấp ba. Tránh việc gửi mọi luồng video trực tiếp về trung tâm, vì sẽ lãng phí băng thông và năng lực tính toán.

5. Xu hướng công nghệ và triển vọng

Năm 2026 sẽ là một cột mốc quan trọng đối với phần cứng suy luận AI. Khi nền tảng NVIDIA Rubin chuyển sang sản xuất hàng loạt và các GPU AMD MI400 cùng Intel Falcon Shores xuất hiện, năng lực tính toán NPU tại biên sẽ phổ biến ở mức 100 TOPS, và việc chạy các mô hình hàng tỷ tham số trên thiết bị sẽ không còn là điểm nghẽn. Đồng thời, cảm biến AI hợp nhất thị giác hướng sự kiện và sóng milimét sẽ giảm công suất hơn nữa, biến mỗi cột đèn và trạm xe buýt trong thành phố thông minh thành một nút thông minh độc lập.

Đối với các đơn vị tích hợp hệ thống và nhà quản lý đô thị, sự cạnh tranh trong tương lai không nằm ở một chip đơn lẻ mà ở hiệu quả phối hợp của phần cứng dị thể. Ai có thể điều phối NPU đầu cuối, bộ tăng tốc biên và cụm GPU trung tâm như một thể thống nhất sẽ đồng thời kéo giảm độ trễ, băng thông và chi phí trong các dự án thành phố thông minh. Cách tiếp cận tích hợp giải pháp cho phần cứng AI được xây dựng quanh xu hướng này, để phần cứng AI không còn là một đống hộp rời rạc mà là một mạng lưới tính toán thông minh của đô thị có thể điều phối, mở rộng và vận hành được.

Chủ đề: Bách khoa phần cứng AI