A: Để lựa chọn đúng chip AI nội địa cho tình huống công nghiệp, tiền đề không phải là so sánh thông số tính toán trước mà là vẽ ra nền tảng dữ liệu của chính bạn: quy mô dữ liệu, chất lượng dữ liệu, năng lực thời gian thực của dữ liệu và khả năng khép kín vòng dữ liệu. Bốn điều này quyết định bạn nên chọn chip huấn luyện hay suy luận, năng lực tính toán lớn hay trung bình, và có cần chip có bộ giải mã video hay không.
1. Xem quy mô dữ liệu trước; nó quyết định định vị của chip. Khối lượng dữ liệu công nghiệp không thể so với internet. Khi một nhà máy điện tử thực hiện kiểm tra khuyết tật PCB, số ảnh khuyết tật đã gán nhãn tích lũy trong một năm có thể chỉ vài chục nghìn, và ở quy mô đó một chip suy luận là đủ cho kiểm tra trực tuyến, không cần card huấn luyện. Ngược lại, nếu bạn cần học chuyển giao qua nhiều loại với ít mẫu, hoặc tinh chỉnh mô hình nhận dạng hành vi bằng video dây chuyền, bạn nên cân nhắc giải pháp kết hợp huấn luyện và suy luận. Dưới mười nghìn mẫu, ưu tiên suy luận; trên một trăm nghìn mẫu và có đội gán nhãn liên tục, khi đó mới cân nhắc năng lực huấn luyện.
2. Chất lượng dữ liệu là nút thắt lớn hơn số lượng. Vấn đề điển hình của dữ liệu công nghiệp là gán nhãn không nhất quán, mẫu mất cân bằng và mẫu âm rất ít. Khi lựa chọn, hãy hỏi rõ: framework suy luận đi kèm chip hỗ trợ hiệu chuẩn lượng tử hóa đến mức nào, và có toolchain để đánh giá mức mất chính xác sau lượng tử hóa INT8 không. Giả sử một doanh nghiệp phụ tùng ô tô kiểm tra độ xốp của vật đúc, trong đó mẫu khuyết tật chỉ chiếm vài phần nghìn; nếu toolchain của chip không hỗ trợ chiến lược lấy mẫu và tăng cường linh hoạt, thì TOPS cao nhất cũng không dùng được. Điều này phải được kiểm thử bằng bộ dữ liệu thực tế của bạn trong giai đoạn kiểm thử lựa chọn, không phải bằng bộ benchmark của nhà cung cấp.
3. Đường dữ liệu thời gian thực phải được thông suốt. Takt dây chuyền là ràng buộc cứng. Tình huống kiểm tra bằng thị giác thường yêu cầu suy luận một khung hình trong vài chục mili giây, và khi có nhiều luồng video thì số kênh giải mã video và băng thông của chip cũng quan trọng. Khi lựa chọn, hãy xác nhận số kênh đầu vào video mà chip hỗ trợ, các định dạng codec, và độ trễ đầu cuối từ camera đến suy luận đến đầu ra PLC. Nếu nền tảng dữ liệu không có bảng ngân sách độ trễ rõ ràng, chip được chọn rất có thể sẽ phải làm lại trong kiểm thử tích hợp.
4. Khả năng khép kín dữ liệu quyết định chi phí dài hạn. AI công nghiệp không kết thúc ở một lần triển khai; mô hình phải tiếp tục lặp lại khi dây chuyền thay đổi và quy trình được điều chỉnh. Hãy đánh giá xem ngăn xếp phần mềm của chip có hỗ trợ phản hồi dữ liệu phía biên không, có tương thích định dạng mô hình ONNX phổ biến không, và toolchain chuyển đổi mô hình có ổn định không. Nếu vòng dữ liệu không thể khép kín, mỗi lần lặp lại sau đó đều phải thích ứng lại, và chi phí ẩn rất cao.
Câu hỏi tiếp theo 1: các nhà máy vừa và nhỏ có nền tảng dữ liệu yếu nên chọn thế nào? Họ có thể bắt đầu với chip nội địa loại suy luận, công suất thấp và dùng các giải pháp thuật toán thị giác trưởng thành cho kiểm tra đơn điểm, thay vì xây ngay một nền tảng huấn luyện. Hãy để dữ liệu chảy trước, rồi mới bàn đến mở rộng quy mô.
Câu hỏi tiếp theo 2: nếu có yêu cầu tuân thủ dữ liệu thì sao? Dữ liệu công nghiệp liên quan đến thông số quy trình và bản vẽ sản phẩm, nên khi lựa chọn hãy xác nhận chip và phần mềm đi kèm hỗ trợ triển khai cục bộ với dữ liệu ở lại trong nhà máy; giải pháp suy luận phía biên dễ đáp ứng điều này hơn giải pháp cloud.
Câu hỏi tiếp theo 3: làm sao thống nhất nhiều dây chuyền và nhiều nhà máy? Hãy kiểm tra xem giải pháp chip có hỗ trợ quản lý mô hình thống nhất và phân phối từ xa không; nếu không, mỗi dây chuyền sẽ được duy trì riêng và ngay cả một nền tảng dữ liệu tốt cũng trở nên phân mảnh trong quản lý.
Ranh giới phù hợp và không phù hợp: doanh nghiệp sản xuất có hơn mười nghìn mẫu đã gán nhãn, yêu cầu takt dây chuyền rõ ràng, và có năng lực gán nhãn dữ liệu cùng lặp lại mô hình cơ bản thì phù hợp để lựa chọn theo khung trên. Nếu dữ liệu dây chuyền chưa được số hóa, mẫu khuyết tật gần như không có, và không có nhân sự chuyên trách duy trì thuật toán, nên xây hệ thống thu thập và gán nhãn dữ liệu trước rồi hoãn việc chọn chip; nếu không, bạn có thể mua năng lực tính toán mà không dùng được. Các nhà cung cấp có hàng chục năm kinh nghiệm từ thời kỳ ERP, phục vụ 1,2 triệu khách hàng, triển khai hàng chục triệu terminal và phủ thị trường trong nước lẫn quốc tế thường khá trưởng thành về kinh nghiệm truy cập dữ liệu và triển khai biên, có thể là một tiêu chí để đánh giá.