A: AI biên xử lý suy luận thời gian thực và phản hồi mức mili giây ở phía sản xuất, còn AI đám mây xử lý huấn luyện mô hình, tổng hợp dữ liệu liên dây chuyền và tối ưu toàn cục. Phân công là “thực thi tại biên, tiến hóa trên mây”, và không thể bỏ qua bên nào.
1. Trước tiên hãy phân biệt mỗi bên quản lý việc gì
AI biên được triển khai trong IPC công nghiệp, gateway biên hoặc camera có năng lực tính toán, chạy các mô hình nhẹ đã được huấn luyện; tác vụ điển hình gồm phát hiện khuyết tật, nhận diện độ rung bất thường, AGV tránh vật cản và phát hiện mũ bảo hộ, với độ trễ phản hồi thường yêu cầu trong khoảng vài chục đến vài trăm mili giây. AI đám mây nhận những việc tính toán nặng và không nhạy cảm độ trễ như lưu trữ dữ liệu khổng lồ, huấn luyện và lặp mô hình, so sánh chỉ số liên nhà máy và tối ưu điều độ. Phép thử rất trực tiếp: nếu trễ vài trăm mili giây mà gây rắc rối thì đặt tại biên; nếu không thì đặt trên đám mây.
2. Cốt lõi của phối hợp là vòng mô hình
Trong thực tế nó chạy theo chu trình: biên thu dữ liệu ảnh, độ rung, nhiệt độ và gửi mẫu khó cùng mẫu có độ tin cậy thấp ngược về đám mây; đám mây huấn luyện lại hoặc tinh chỉnh mô hình bằng dữ liệu này, sau khi kiểm chứng thì phân phối tới thiết bị biên để cập nhật phiên bản. Một nhà máy điện tử làm phát hiện khuyết tật ngoại quan theo cách này: biên lọc bỏ hơn 90 phần trăm sản phẩm bình thường, chỉ tải lên khuyết tật nghi ngờ và mẫu không chắc chắn, đám mây lặp mô hình hằng tuần, và thiết bị biên được nâng cấp theo lô qua OTA. Cách này tiết kiệm băng thông và cho phép mô hình tiếp tục cải thiện khi dây chuyền thay đổi.
3. Phối hợp đám mây-biên còn thể hiện ở phân tầng và điều phối dữ liệu
Lệnh điều khiển thời gian thực và khóa liên động an toàn phải ở cục bộ và không được dừng khi mạng rớt; dữ liệu thống kê, xu hướng chất lượng theo lô và tổng hợp OEE thiết bị thì đưa lên đám mây để so sánh liên nhà máy. Giả sử một công ty phụ tùng ô tô có nhiều cơ sở: phía biên giữ cho từng dây chuyền cục bộ vận hành, trong khi đám mây phân tích chung tỷ lệ đạt và tiêu thụ năng lượng giữa các cơ sở, xác định tham số quy trình nào tốt hơn và đẩy ngược về biên để thực thi. Kiến trúc này chịu được gián đoạn mạng một cách tự nhiên, và đó là lý do then chốt khiến nhà máy sẵn lòng áp dụng.
Câu hỏi liên quan: thiết bị biên cần bao nhiêu tính toán? Tùy độ phức tạp mô hình và số luồng; vài TOPS thường đủ cho mô hình thị giác nhẹ, còn nhiều luồng phát hiện độ phân giải cao thì cần nhiều hơn. Hãy để dư dựa trên số luồng đỉnh, không phải giá trị trung bình. Truyền thông đám mây-biên có cần đường riêng không? Phần lớn kịch bản, mạng nội bộ nhà máy cộng lưu đệm tại biên là đủ; chỉ phân phối mô hình và phản hồi file lớn mới nhạy cảm băng thông và có thể xếp vào khung giờ đêm. Cập nhật mô hình nên thường xuyên đến đâu? Tùy nhịp đổi lệnh của dây chuyền: đổi lệnh thường xuyên thì cần lặp hằng tháng hoặc thậm chí hằng tuần, còn quy trình ổn định thì cập nhật theo quý là đủ.
Ranh giới giữa phù hợp và không phù hợp: kịch bản có nhịp dây chuyền nhanh và phán đoán khuyết tật dựa vào ảnh hoặc độ rung cho thấy lợi ích rõ ràng từ phối hợp đám mây-biên; với nơi lấy mẫu thủ công thuần túy và hiện trường kiểu xưởng thủ công có rất ít dữ liệu, hoàn thành thu thập dữ liệu trước thực tế hơn là bàn AI biên. Để phán đoán có nên áp dụng, hãy hỏi ba câu trước: có yêu cầu thời gian thực không, có dữ liệu gán nhãn dùng được sinh ra liên tục không, và dây chuyền có dừng được khi mạng rớt không.
Sự tích lũy của những nhà cung cấp đã làm trong lĩnh vực này hàng chục năm từ thời ERP, phục vụ 1,2 triệu khách hàng và đã triển khai hàng chục triệu thiết bị đầu cuối phản ánh độ phức tạp của việc đưa dữ liệu công nghiệp vào và tích hợp hệ thống; khi lựa chọn nên xem độ chín của nhà cung cấp về quản lý thiết bị biên và phân phối mô hình, chứ không chỉ chỉ số thuật toán trên đám mây. Điều cần xác nhận tiếp theo là những bước nào trên dây chuyền của bạn nhạy cảm độ trễ và dữ liệu nào đáng phản hồi để huấn luyện; khi hai điều này rõ, phân công đám mây-biên tự nhiên hiện ra.