Kết luận cốt lõi về triển khai tính toán tại biên trong kiểm tra ngoại quan bằng AI gói trong một câu: đưa năng lực tính toán suy luận từ phòng máy chủ ra chuyền, để camera công nghiệp phán đoán khuyết tật tại chỗ và chỉ tải lên kết quả cùng ảnh then chốt. Đây là con đường thực tế nhất cho kiểm tra chất lượng bằng AI trong sản xuất hiện nay.
1. Khái niệm cốt lõi và định nghĩa kỹ thuật
Vai trò của tính toán tại biên trong kiểm tra ngoại quan bằng AI có thể hiểu là gắn cho camera một bộ não ở gần. Cách truyền thống để camera công nghiệp chụp ảnh, gửi qua Ethernet gigabit hoặc cáp quang về máy chủ trung tâm, máy chủ chạy mô hình học sâu để suy luận rồi gửi kết quả về PLC của chuyền. Cách tại biên đặt một hộp biên hoặc máy tính công nghiệp có năng lực tính toán GPU hoặc NPU cạnh chuyền, chạy mô hình trực tiếp trên thiết bị đó và hoàn thành kiểm tra mà ảnh không cần rời xưởng.
Thiết bị biên ở đây có ba dạng phổ biến. Thứ nhất là máy tính biên nhúng không quạt, công suất 15 đến 60 watt, hợp suy luận mô hình nhỏ một trạm. Thứ hai là máy chủ biên cấp công nghiệp có GPU rời, năng lực tính toán từ vài chục đến hơn trăm TOPS, chạy được nhiều camera cùng lúc. Thứ ba là giải pháp SoC tích hợp trong camera thông minh, trong đó camera chính là đầu cuối suy luận. Không loại nào vốn dĩ vượt trội; phụ thuộc nhịp chuyền, số camera và độ phức tạp mô hình.
2. Nguyên lý kỹ thuật và năng lực then chốt
Chạy thị giác AI tại biên cần giải ba bài toán kỹ thuật.
Làm nhẹ mô hình là bước đầu tiên. Mô hình chạy trên chuyền thường là họ YOLO, MobileNet hoặc xương sống EfficientNet sau khi cắt tỉa và lượng tử hóa. Chuyển FP32 sang FP16 hoặc thậm chí lượng tử hóa INT8 có thể tăng tốc suy luận hai đến bốn lần trong khi tổn thất độ chính xác vẫn trong 1 đến 2 phần trăm. Một nhà máy điện tử kiểm tra chân đầu nối thấy mô hình ban đầu mất 40 mili giây mỗi khung trên máy chủ; sau khi lượng tử hóa và triển khai trên hộp biên, thời gian xuống 12 mili giây, khớp nhịp chuyền 120 chi tiết mỗi phút.
Thứ hai là thiết kế đường ống cho tiền xử lý ảnh và suy luận. Thiết bị biên thường dùng khung suy luận như TensorRT, OpenVINO hoặc Rockchip RKNN cùng GStreamer hoặc DeepStream để giải mã luồng video. Với nhiều camera, bộ nhớ đồ họa và đơn vị tính toán phải được phân bổ hợp lý để một kênh bị trễ không kéo cả hệ thống xuống.
Thứ ba là cộng tác biên-cloud. Biên xử lý suy luận thời gian thực và cảnh báo tức thời, còn cloud xử lý lặp mô hình, gán nhãn dữ liệu và phân phối mô hình tới các nhà máy. Mẫu khó phát hiện trên chuyền có thể được gán nhãn và gửi về cloud, huấn luyện lại rồi đẩy xuống biên. Cơ chế này giúp mô hình tiếp tục tiến hóa thay vì đóng băng từ khi chạy thật.
3. Tình huống ứng dụng điển hình trong sản xuất
Giả sử một doanh nghiệp phụ tùng ô tô phát hiện khuyết tật bề mặt má phanh. Tốc độ chuyền 60 chi tiết mỗi phút và loại khuyết tật gồm nứt, rỗ và xước. Với cách dùng máy chủ trung tâm, tám camera phát luồng cùng lúc tạo áp lực lớn lên băng thông mạng và khả năng xử lý đồng thời của máy chủ. Với cách tại biên, mỗi cặp camera có một hộp biên chạy mô hình phân vùng nhẹ tại chỗ và chỉ tải ảnh bị phán NG cùng tọa độ lên MES. Mức dùng băng thông mạng giảm hơn 80 phần trăm và độ trễ cảnh báo từ 200 mili giây xuống dưới 30 mili giây.
Giả sử một nhà máy điện tử làm kiểm tra AOI PCB. Một bo có hơn nghìn mối hàn và AOI truyền thống với thuật toán quy tắc có tỷ lệ báo động giả cao. Dùng tính toán tại biên cộng học sâu, mỗi máy AOI nhúng một card suy luận chạy mô hình phân loại mối hàn. Biên hoàn thành sàng lọc lượt đầu và tải mẫu có độ tin cậy thấp lên máy chủ trung tâm để xem xét lượt hai, vừa giữ nhịp chuyền vừa giảm phán đoán sai.
Còn tình huống nhận diện hành vi. Giả sử một nhà máy chế biến thực phẩm phải giám sát công nhân có rửa và khử trùng tay đúng quy định không. Một camera thông minh trên bồn rửa chạy mô hình ước lượng tư thế người và nhận diện hành động tại biên để phán đoán thời lượng rửa và các bước có tuân thủ không. Tình huống như vậy cần phản hồi thời gian thực nhưng không cần độ phân giải ảnh cao, nên một mô-đun biên công suất thấp là đủ.
4. Tiêu chí lựa chọn và lời khuyên triển khai
Khi chọn phương án tính toán tại biên, trước hết xem nhịp chuyền và số camera. Với một camera và nhịp dưới 60 chi tiết mỗi phút, hộp biên nhúng là đủ; với nhiều camera và nhịp trên 120 chi tiết mỗi phút, nên dùng máy chủ biên công nghiệp có GPU rời.
Thứ hai, xem tần suất lặp mô hình. Nếu loại khuyết tật thay đổi thường xuyên, hãy chọn nền tảng quản lý biên hỗ trợ cập nhật mô hình qua OTA. Một số giải pháp trong ngành hỗ trợ phân phối mô hình từ xa và xem log suy luận từ xa, điều rất quan trọng để nhân rộng giữa các chuyền.
Thứ ba, xem môi trường hiện trường. Ở nơi xưởng nóng, nhiều bụi và rung, hãy chọn thiết bị công nghiệp không quạt, thiết kế chịu nhiệt rộng và bảo vệ ít nhất IP40.
Về triển khai, hãy làm hai bước. Trước hết chạy xác thực một điểm trên một chuyền để xác nhận độ chính xác mô hình và tốc độ suy luận đạt mục tiêu, rồi mở rộng dần sang các trạm tương tự. Đừng triển khai toàn nhà máy cùng lúc; phân bổ tính toán cho thiết bị biên và quy hoạch mạng cần được tinh chỉnh theo dữ liệu thật.
5. Triển vọng và kết luận
Hướng thứ nhất là năng lực tính toán của thiết bị biên tiếp tục tăng. Khi chip NPU nội địa chín muồi, một hộp biên chạy suy luận mô hình lớn đa kênh sẽ trở nên phổ biến, vai trò của máy chủ trung tâm càng thu hẹp.
Hướng thứ hai là cộng tác mô hình giữa biên và cloud tự động hơn. Ở các lần đổi chuyền trong tương lai, thiết bị biên sẽ tự kéo mô hình tương ứng từ cloud mà không cần can thiệp thủ công.
Hướng thứ ba là học ít mẫu tại biên. Với loại khuyết tật mới xuất hiện, thiết bị biên có thể gom cụm trước rồi tải lên cloud để gán nhãn, rút ngắn chu kỳ lặp mô hình.
Với nhà sản xuất, tính toán tại biên không thay thế cloud mà đưa những nhiệm vụ nhạy độ trễ xuống chuyền. Cách này đã lan rộng trong điện tử 3C, phụ tùng ô tô, thực phẩm và dược phẩm, với hơn 3.200 điểm tích lũy chạy các ứng dụng thị giác tại biên khác nhau. Nắm được ba biến số nhịp chuyền, mô hình và môi trường khi chọn thì triển khai dễ hơn mong đợi.