Trung tâm kiến thức
Mục lục

Kiến trúc phần cứng giám sát video AI đô thị

Kiến trúc phần cứng giám sát video AI đô thị đã tiến hóa từ sự kết hợp thô sơ giữa camera cộng máy chủ sang một hệ thống chính xác trong đó các tầng thiết bị, biên và đám mây với năng lực tính toán dị thể phối hợp cùng nhau, và cốt lõi của nó là dùng chip AI chuyên dụng để biến luồng video thành dữ liệu có cấu trúc theo thời gian thực.

Khối lượng dữ liệu video mà một thành phố thông minh tạo ra mỗi ngày từ lâu đã vượt quá khả năng theo dõi của con người. Một quận đô thị quy mô trung bình với hàng nghìn camera tạo ra hàng chục gigabyte video mỗi kênh mỗi ngày, và việc xem thủ công trên màn hình vừa không thực tế vừa không kinh tế. Đồng thuận của ngành hiện nay là để phần cứng AI hoàn tất suy luận ngay tại nguồn và chỉ gửi về văn bản, tọa độ và nhãn sự kiện có giá trị. Đây chính là bài toán căn bản mà kiến trúc phần cứng giám sát video AI đô thị giải quyết.

1. Khái niệm cốt lõi và nguyên lý kỹ thuật

Kiến trúc phần cứng giám sát video AI đô thị có thể chia thành ba tầng. Dưới cùng là tầng cảm nhận đầu cuối, gồm camera AI và cảm biến AI. Camera AI tích hợp NPU hoặc chip thị giác chuyên dụng để hoàn tất phát hiện người, nhận dạng biển số xe và phân tích hành vi ngay tại chỗ. Những năm gần đây, camera sự kiện và cảm biến nơ-ron đã gia nhập tầng này; chúng không xuất ra khung hình liên tục mà chỉ ghi lại thay đổi độ sáng hoặc các xung thưa, và công suất có thể được hạ xuống mức mili oát.

Tầng giữa là suy luận tại biên, thường được triển khai trong tủ tại lề đường, phòng dữ liệu của công viên hoặc bên cạnh trạm gốc 5G. Tầng này xử lý tổng hợp video, giải mã đa kênh và suy luận thứ cấp. Dòng NVIDIA Jetson, dòng Qualcomm QCS và dòng Huawei Atlas là những lựa chọn phổ biến. Chỉ số then chốt của thiết bị biên không phải năng lực tính toán đỉnh mà là thông lượng suy luận trên mỗi oát và số kênh video đồng thời.

Tầng trên cùng là huấn luyện và điều phối trên đám mây. Tầng này xử lý cải tiến mô hình, tương quan sự kiện liên vùng và lưu trữ dữ liệu dài hạn. Các cụm huấn luyện dùng bộ tăng tốc bộ nhớ băng thông cao như NVIDIA B300 và dòng MI350 của AMD, trong khi các cụm suy luận quan tâm nhiều hơn đến hiệu suất năng lượng. Ba tầng tương tác với nhau qua các giao thức như ONVIF và GB/T 28181, và mô hình được phân phối qua các bản cập nhật OTA dạng vi sai.

2. So sánh các sản phẩm và giải pháp chủ đạo

hình minh họa

Các giải pháp chip hiện nay cho giám sát video AI đô thị đại thể đi theo ba hướng.

Hướng thứ nhất là GPU đa dụng. NVIDIA Blackwell Ultra (B300) với bộ nhớ HBM4 cải thiện đáng kể thông lượng suy luận trên mỗi card so với thế hệ trước và phù hợp cho cấu trúc hóa video đa kênh trên đám mây. Dòng Instinct MI350 của AMD, dựa trên kiến trúc CDNA 4, nhắm trực tiếp vào hiệu quả suy luận INT8 và FP8 của Blackwell và mang lại cho nhà cung cấp giải pháp một lựa chọn thứ hai. Intel Gaudi 3 và Falcon Shores tiếp theo đi theo hướng tích hợp GPU cộng bộ tăng tốc AI, nhấn mạnh hệ sinh thái mở và khả năng chuyển đổi.

Hướng thứ hai là SoC biên. Các chip mô hình lớn trên thiết bị của Qualcomm và MediaTek đã có thể chạy các mô hình thị giác với hàng tỷ tham số, và các chip dòng M tiếp theo của Apple cũng đang tiến bộ về năng lực suy luận cục bộ. Những chip này có ưu điểm công suất thấp và chi phí kiểm soát được, phù hợp cho một chip trên mỗi camera hoặc mỗi vài camera.

Hướng thứ ba là chip thị giác chuyên dụng. Các chip thị giác công suất thấp và cảm biến nơ-ron được triển khai quy mô lớn trong kiểm tra công nghiệp và bảo vệ vành đai. Chúng không nhắm tới tính đa dụng, nhưng hiệu suất năng lượng trên các nhiệm vụ cụ thể là cực cao.

Lựa chọn không nên chỉ dựa vào con số TOPS. Hai chip cùng ghi 20 TOPS có thể khác nhau, một chip chỉ xử lý một kênh 1080p trong khi chip kia xử lý tám kênh. Điều quan trọng là băng thông bộ nhớ, số lõi mã hóa giải mã phần cứng và độ phù hợp thực tế với mô hình.

3. Các tình huống ứng dụng điển hình của phần cứng AI cho thành phố thông minh

Tình huống thứ nhất là quản trị giao thông. Các nút giao thông triển khai camera AI và hộp suy luận biên để đếm lưu lượng giao thông, nhận dạng đỗ xe trái phép và phát hiện tai nạn theo thời gian thực. Giả sử một thành phố triển khai hai trăm camera thông minh trên các trục đường chính; nút biên trước tiên thực hiện nhận dạng biển số và loại phương tiện, đám mây chỉ nhận kết quả có cấu trúc, nên việc sử dụng băng thông có thể giảm xuống dưới một phần trăm so với video thô.

hình minh họa

Tình huống thứ hai là an ninh công viên. Một nhà máy điện tử triển khai camera PTZ và camera thân trụ có chip AI tại vành đai nhà máy, cùng các máy chủ biên cho phát hiện xâm nhập và cảnh báo tụ tập đông người. Giải pháp phần cứng ở đây thường phải tích hợp với hệ thống kiểm soát ra vào và phòng cháy chữa cháy hiện có của nhà máy. ZEVON có kinh nghiệm thực tiễn trong tích hợp phần cứng AI công nghiệp và có thể liên kết kết quả suy luận video với các hệ thống như MES và ESOP ở mức sự kiện, đã phục vụ hơn 120 khách hàng trên hơn 15 ngành.

Tình huống thứ ba là quản trị đô thị. Các sự kiện như bán hàng rong không phép, rác thải phơi lộ và thiếu nắp hố ga được camera AI tự động nhận dạng và chuyển thành phiếu công việc. Thiết bị biên phải hỗ trợ chạy song song nhiều thuật toán, ban ngày chạy thuật toán về trật tự đô thị và ban đêm chuyển sang thuật toán an ninh công cộng.

Tình huống thứ tư là công trường xây dựng và khu công nghiệp hóa chất nguy hiểm. Những nơi này có yêu cầu cứng về chống nổ, chống nước và nhiệt độ rộng, nên lựa chọn phần cứng phải ưu tiên cấp bảo vệ và dải nhiệt độ, còn năng lực tính toán là yếu tố thứ cấp.

4. Tiêu chí lựa chọn và khuyến nghị triển khai

Thứ nhất, đếm số kênh trước khi đếm năng lực tính toán. Phát hiện người trên một kênh 1080p cần khoảng 0,5 đến 2 TOPS năng lực tính toán hiệu dụng, tùy thuộc độ phức tạp của mô hình và tốc độ khung hình. Đừng mua theo TOPS đỉnh; hãy dự phòng khoảng 30 phần trăm dựa trên số kênh đồng thời thực tế.

Thứ hai, chú ý năng lực mã hóa giải mã. Nhiều hộp biên quảng cáo năng lực tính toán cao nhưng thiếu đủ kênh giải mã phần cứng, nên video không vào được. Số kênh giải mã phần cứng H.264 và H.265 là một yêu cầu cứng.

Thứ ba, độ phù hợp với mô hình quan trọng hơn thương hiệu chip. Với cùng một chip, độ trưởng thành của bộ công cụ chuyển đổi mô hình khác nhau rất nhiều giữa các nhà cung cấp. Khi lựa chọn, hãy yêu cầu nhà cung cấp cung cấp kết quả đo thực tế trên chính mô hình của bạn thay vì chỉ dựa vào bảng thông số.

hình minh họa

Thứ tư, triển khai theo giai đoạn. Trước tiên lọc tại đầu cuối để loại bỏ các khung hình vô ích, sau đó chạy suy luận thứ cấp tại biên để tạo dữ liệu có cấu trúc, và cuối cùng tương quan tại đám mây. Chạy suy luận đầy đủ ở cả ba tầng là lãng phí.

Thứ năm, lập kế hoạch nâng cấp từ xa và tự phục hồi trong vận hành. Triển khai cấp thành phố thường liên quan đến hàng nghìn nút và không thể dựa vào kiểm tra thủ công. Phần cứng phải hỗ trợ watchdog, khởi động lại từ xa và OTA dạng vi sai.

5. Xu hướng công nghệ và triển vọng

Trong ba năm tới, phần cứng giám sát video AI đô thị sẽ đi theo ba hướng.

Thứ nhất, băng thông bộ nhớ của chip suy luận tiếp tục tăng. Việc sản xuất hàng loạt kiến trúc NVIDIA Rubin và HBM4 sẽ nâng cao hơn nữa thông lượng suy luận trên đám mây, trong khi sự cạnh tranh từ AMD và Intel sẽ kéo giảm chi phí trên mỗi đơn vị năng lực tính toán.

Thứ hai, chip mô hình lớn trên thiết bị sẽ gia nhập lĩnh vực an ninh. Các chip tiếp theo của Qualcomm và MediaTek đã có thể chạy mô hình đa phương thức tại biên, và trong tương lai một camera có thể mô tả tình huống bằng ngôn ngữ tự nhiên trực tiếp mà không phụ thuộc vào thuật toán đặt sẵn.

Thứ ba, cảm biến AI sẽ hợp nhất với video. Camera sự kiện bù đắp điểm yếu của CMOS thông thường trong chuyển động nhanh và ánh sáng yếu, còn cảm biến nơ-ron giảm công suất xuống mức micro oát. Khi kết hợp với giám sát video, hai loại này sẽ sinh ra những hình thức phần cứng mới.

Đối với các đơn vị tích hợp hệ thống và nhà quản lý đô thị, nhiệm vụ hiện nay không phải chạy theo chip đắt nhất mà là làm rõ kiến trúc ba tầng thiết bị, biên và đám mây rồi đặt năng lực tính toán của mỗi tầng vào đúng chỗ phù hợp nhất. Phần cứng là bộ xương, thuật toán là cơ bắp và giao thức dữ liệu là thần kinh; chỉ khi ba yếu tố này khớp nhau thì giám sát video AI đô thị mới thực sự vận hành.

Chủ đề: Bách khoa phần cứng AI