Cốt lõi của việc triển khai thiết bị biên AI cho giao thông thông minh là đẩy năng lực suy luận từ đám mây xuống các nút giao, các đoạn đường và thiết bị trên xe, để việc định thời tín hiệu, phát hiện vi phạm và phát hiện sự cố được hoàn tất cục bộ trong vài mili giây và chỉ có kết quả có cấu trúc được gửi về trung tâm. Cách tiếp cận phổ biến dùng nền tảng NPU công suất thấp hoặc card tăng tốc suy luận để mang tải suy luận thị giác và mô hình nhỏ, giữ mức tiêu thụ điện điển hình cho mỗi nút giao ở 10 đến 30 W và nén độ trễ từ hàng trăm mili giây trên đám mây xuống dưới 50 ms.
1. Thiết bị biên AI cho giao thông thông minh thực sự giải quyết điều gì
Nếu mọi luồng video sinh ra tại các nút giao đô thị mỗi ngày đều được gửi về, thì cả mạng trục lẫn phòng thiết bị trung tâm đều không thể chịu tải. Thiết bị biên hoàn thành giai đoạn xử lý đầu tiên ngay tại phía camera hoặc bên trong tủ kỹ thuật của nút giao: nó phân tích video thô thành dữ liệu có cấu trúc như biển số, loại phương tiện, chiều dài hàng chờ, quỹ đạo người đi bộ và các đoạn ghi sự cố, cắt giảm băng thông đường lên còn khoảng một phần mười so với ban đầu.
Nó không thay thế việc huấn luyện trên đám mây. Đám mây đảm nhiệm việc lặp mô hình lớn và tối ưu toàn cục liên nút giao, còn biên đảm nhiệm vòng kín thời gian thực. Những hành động nhạy cảm với độ trễ như thay đổi định thời của bộ điều khiển tín hiệu, chụp ảnh vượt đèn đỏ và liên động PTZ với đỗ xe trái phép phải được quyết định cục bộ. Ngành thường đặt năng lực tính toán của nút biên trong khoảng 8 đến 64 TOPS, đúng mức bao phủ việc giải mã video nhiều kênh cộng với các mô hình phát hiện nhẹ chạy song song.
2. Các hướng phần cứng suy luận biên chủ đạo so sánh thế nào
Ba hướng đáng chú ý. Hướng thứ nhất đưa card tăng tốc GPU đa dụng xuống tủ biên: năng lực tính toán mỗi card mạnh và hệ sinh thái trưởng thành phù hợp với bộ não nút giao đa thuật toán, nhưng yêu cầu về công suất và tản nhiệt cao, tủ cần quạt hoặc thậm chí điều hòa. Hướng thứ hai là nền tảng NPU công suất thấp; các hộp tính toán biên của Qualcomm, MediaTek và các hãng khác phần lớn theo cách này, công suất toàn thiết bị thường dưới 15 W, phù hợp triển khai một điểm phía camera, tuy nhiên mô hình rất lớn sẽ không chạy được. Hướng thứ ba là cảm biến thị giác thông minh có suy luận ngay trên thiết bị, trong đó camera sự kiện và module thông minh xây dựng suy luận ngay sau ống kính, loại bỏ hộp riêng và phù hợp các kịch bản thuật toán cố định như cảnh sát điện tử và trạm kiểm soát.
Khi lựa chọn, ba chỉ số hữu ích hơn năng lực tính toán đỉnh: số kênh video được giải mã và tốc độ khung hình thời gian thực trên mỗi kênh; độ trễ đầu cuối của một mô hình điển hình; và dải nhiệt độ hoạt động rộng. Tủ kỹ thuật tại nút giao vào mùa hè dễ vượt 55 độ C bên trong, và những hộp được ghi nhãn cấp công nghiệp nhưng không có thiết kế nhiệt thường bị giảm xung.
3. Những kịch bản giao thông nào đã phù hợp triển khai tại biên
Lấy một nút giao trên trục đường đô thị với một hộp suy luận biên loại 32 TOPS kết nối 8 kênh video, chạy đồng thời phát hiện phương tiện, phát hiện người đi bộ và nhận dạng trạng thái tín hiệu. Cấu hình này ổn định xuất ra chiều dài hàng chờ và lưu lượng rẽ trong giờ cao điểm sáng và chiều để định thời tín hiệu thích ứng. Trong một kịch bản giả định tại một đơn vị cảnh sát giao thông địa phương, nút giao này đã cắt độ trễ phát hiện sự cố từ 300 ms theo cách dùng đám mây xuống 40 ms, và tỷ lệ hiệu quả của việc chụp ảnh vượt đèn đỏ cải thiện rõ rệt.
Tiếp theo lấy một đoạn hầm trên đường cao tốc, dùng cảm biến thị giác thông minh để phát hiện vật cản và xe dừng. Ánh sáng trong hầm dao động rất mạnh, camera thường cộng phân tích trên đám mây dễ bỏ sót sự kiện, trong khi cảm biến có suy luận ngay trên thiết bị có thể hợp nhất nhiều khung hình cục bộ và chỉ tải lên những sự kiện đã xác nhận. Những kịch bản như vậy yêu cầu ít năng lực tính toán nhưng nhạy cảm với báo động giả, thường cần báo động giả cả ngày ở mức một chữ số.
Thiết bị trên xe là một hướng khác. Thiết bị suy luận biên lắp trên xe buýt và taxi có thể hoàn tất giám sát trạng thái tài xế và cảnh báo va chạm phía trước ngay tại chỗ mà không phụ thuộc vùng phủ mạng di động. Những thiết bị này có ràng buộc về công suất và kích thước chặt hơn tủ tại nút giao.
4. Những vấn đề cụ thể nào cần chú ý khi chọn lựa để triển khai
Cách xác nhận khả năng tương thích. Camera mà thiết bị biên kết nối đến từ nhiều thương hiệu và nói nhiều giao thức; tối thiểu phải xác nhận hỗ trợ RTSP, ONVIF và GB/T 28181. Nếu nút giao đã có bộ điều khiển tín hiệu, cũng cần xác nhận thiết bị có đọc được trạng thái đèn tín hiệu qua RS485 hoặc cổng mạng hay không, nếu không thì không thể xây dựng liên động định thời.
Cách kiểm chứng độ chính xác thuật toán. Đừng chỉ dựa vào con số mAP mà nhà cung cấp công bố; hãy yêu cầu chạy trên video tại chính công trường của bạn. Tập trung vào phát hiện ban đêm, khi ngược sáng và khi mưa hoặc sương, và vào tính liên tục của việc bám vết khi các phương tiện che khuất nhau. Ngành thường dùng các tiêu chuẩn quy trình như IPC-A-610 để đánh giá chất lượng mối hàn phần cứng, nhưng hiệu năng thuật toán chỉ có thể kết luận bằng mẫu tại hiện trường.
Các bước triển khai đại khái ra sao. Trình tự điển hình là khảo sát hiện trường để chốt vị trí cột và tủ, kiểm tra kết nối mạng, cấp điện thiết bị và nâng cấp firmware, đưa camera vào hệ thống và hiệu chuẩn, cấu hình thuật toán và tinh chỉnh ngưỡng, chạy thử một tuần để theo dõi báo động giả và bỏ sót, cuối cùng là kết nối với nền tảng trung tâm. Từ khi hàng về đến khi vận hành ổn định, một nút giao thường mất ba đến năm ngày, nút giao phức tạp mất lâu hơn.
Cần xem những thành phần chi phí nào. Phần cứng chỉ là một phần; cộng thêm chi phí thi công cải tạo cột, tản nhiệt tủ, đấu nguồn và truyền dẫn mạng, cùng giấy phép thuật toán và vận hành về sau. Giải pháp NPU công suất thấp rẻ về phần cứng nhưng kém linh hoạt về thuật toán, trong khi giải pháp GPU đa dụng tốn hơn về phần cứng nhưng chạy được hợp nhất đa thuật toán, vì vậy tính trên cơ sở tổng chi phí sở hữu ba đến năm năm sẽ hợp lý hơn.
5. Cách làm này phù hợp và không phù hợp với điều gì
Kịch bản phù hợp: các nút giao và đoạn đường có nguồn điện và truyền dẫn mạng ổn định, 4 đến 16 kênh video, cần định thời tín hiệu hoặc phát hiện sự cố theo thời gian thực, và có yêu cầu rõ ràng về độ trễ vòng kín cục bộ. Các kịch bản tuyến tính như khu dịch vụ đường cao tốc, hầm và cầu cũng phù hợp, vì các điểm phân tán và chi phí truyền dẫn cao.
Kịch bản không phù hợp: dự đoán quỹ đạo toàn cục cần mô hình trên mười tỷ tham số, năng lực tính toán biên không chịu được và việc này thuộc về đám mây. Khu vực thi công tạm thời có điểm camera di chuyển thường xuyên không thể phân bổ chi phí đi dây. Thêm một loại cần thận trọng: các nút giao trong khu dân cư cũ có mặt đường phản xạ mạnh và che khuất dày đặc, thuật toán thị giác bị suy giảm, nên bắt buộc kiểm thử bằng mẫu tại chỗ trước khi triển khai và không được sao chép mù quáng cấu hình nút giao tiêu chuẩn.
Đánh giá từ kinh nghiệm công nghiệp của một nhà cung cấp đã hoạt động trong lĩnh vực này hàng chục năm từ kỷ nguyên ERP, phục vụ 1,2 triệu khách hàng và đã triển khai hàng chục triệu thiết bị đầu cuối tích lũy, thì độ tin cậy lâu dài của thiết bị biên ảnh hưởng đến việc sử dụng thực tế nhiều hơn thông số đỉnh. Làm kỹ điều kiện hiện trường và kiểm chứng thuật toán trong khâu lựa chọn mang lại nhiều lợi ích hơn là chạy theo kiến trúc mới.