Không có câu trả lời duy nhất cho việc chọn chip AI trong nhà máy; điều then chốt là nhịp quy trình của bạn, điều kiện môi trường và tần suất lặp thuật toán. GPU phù hợp huấn luyện và suy luận thông lượng cao, NPU nổi bật về hiệu quả chi phí trong kịch bản biên công suất thấp, và FPGA xuất sắc ở độ trễ thấp mang tính tất định cùng hợp nhất phía trước cảm biến. Ba loại không thay thế nhau mà được triển khai theo lớp theo tác vụ của dây chuyền sản xuất.
1. GPU, NPU và FPGA mỗi loại giải quyết điều gì
Điểm mạnh cốt lõi của GPU là tính toán dấu phẩy động song song và băng thông bộ nhớ lớn. Lấy NVIDIA Blackwell Ultra (GB300): nó nhấn mạnh cải thiện hiệu năng suy luận và mang bộ nhớ HBM3e dung lượng cao, phù hợp các tác vụ nhà máy xử lý nhiều luồng video độ nét cao và chạy mô hình thị giác lớn hơn, như kiểm tra lại ngoại quan toàn dây chuyền và nhận diện hành vi đa trạm. Dòng AMD Instinct MI350 dựa trên kiến trúc CDNA4 cũng nhắm thị trường huấn luyện và suy luận, mang lại lựa chọn thứ hai cho triển khai máy chủ. Những chip như vậy thường nằm trong PC công nghiệp hoặc máy chủ biên, tiêu thụ hàng trăm watt và cần làm mát bằng quạt hoặc chất lỏng.
NPU là đơn vị chuyên dụng cho mạng nơ-ron tích hợp trong SoC, với các SoC AI biên tính toán cao công suất thấp mà Qualcomm và MediaTek ra mắt trong hai năm qua là ví dụ điển hình. Nó đưa tác vụ suy luận vào mạch chuyên dụng, đạt hiệu quả năng lượng cao trên các mô hình phân loại và phát hiện thị giác phổ biến với công suất vài đến hơn mười watt, phù hợp hộp suy luận biên không quạt bị hạn chế không gian hoặc thiết bị đầu cuối dạng máy trạm AI PC. Các nền tảng Intel Gaudi 3 và Xeon 6 nhấn mạnh hiệu quả năng lượng và triển khai suy luận AI từ phía máy chủ doanh nghiệp, tạo thành lớp cầu nối giữa trung tâm dữ liệu và phòng thiết bị cấp nhà máy.
FPGA, mảng logic khả trình, phù hợp độ trễ tất định và tiền xử lý phía trước cảm biến. Các cảm biến AI đa phương thức công nghiệp cho thị giác, LiDAR và rung động ngày càng đưa đơn vị suy luận vào phía cảm biến, và FPGA thường được dùng để thu nhận đồng bộ nhiều tín hiệu, lọc và suy luận nhẹ, với độ trễ ép xuống mức micro giây và không chịu ảnh hưởng của điều phối hệ điều hành. Nhược điểm là ngưỡng phát triển cao: thay đổi thuật toán đòi hỏi tổng hợp lại và đấu dây lại.
2. Ba loại chip khác nhau cốt lõi thế nào trong nhà máy
Về mật độ tính toán, một card GPU có năng lực tính toán cao nhất và phù hợp suy luận tập trung; NPU có năng lực tính toán vừa phải nhưng tốt nhất trên mỗi watt; FPGA có năng lực tính toán tuyệt đối thấp nhưng thắng ở độ trễ tất định và giao diện linh hoạt.
Về mức phù hợp thuật toán, GPU hỗ trợ Transformer, mô hình lớn và mạng đa tác vụ trưởng thành nhất; NPU phụ thuộc chuỗi công cụ của nhà cung cấp có bao phủ thư viện toán tử, chạy trơn sau khi cắt tỉa và lượng tử hóa nhưng có thể bị hạn chế với toán tử tùy chỉnh; FPGA phù hợp mạng nhẹ cố định, đã trưởng thành và không kinh tế khi thuật toán lặp thường xuyên.
Về hình thức triển khai, GPU phần lớn xuất hiện dưới dạng board hoặc hộp cần vỏ và nguồn; NPU được nhúng trực tiếp trên bo mạch chủ của thiết bị đầu cuối; FPGA thường xuất hiện trong card thu nhận, camera thông minh và module cảm biến.
Về chi phí vòng đời, GPU tốn hơn khi mua và tiêu thụ nhiều điện hơn nhưng chi phí lao động phát triển thấp hơn; phần cứng NPU rẻ và công suất thấp nhưng cần đầu tư vào việc chuyển mô hình và tinh chỉnh lượng tử hóa; phần cứng FPGA ở mức vừa phải nhưng phát triển logic là lao động tốn kém nhất. Việc lựa chọn nên tính đến số lần lặp thuật toán sẽ xảy ra trong ba năm.
3. Những hoạt động nhà máy nào thực sự cần phần cứng AI
Lấy xưởng đúc của một công ty phụ tùng ô tô dùng cảm biến rung cộng suy luận biên để bảo trì dự đoán: phía cảm biến dùng FPGA để lấy mẫu đồng bộ nhiều tín hiệu rung và trích xuất đặc trưng phổ, trong khi hộp suy luận dùng NPU cho mô hình phân loại bất thường, với yêu cầu độ trễ mili giây và công suất bị hạn chế, một sự kết hợp hợp lý hơn là thêm GPU.
Lấy trạm phán đoán lại AOI sau SMT tại một nhà máy điện tử: nhiều camera độ nét cao chụp ảnh đồng thời, loại khuyết tật nhiều, mô hình lớn và cập nhật theo quý, nên một máy chủ biên nhỏ có GPU đặt cạnh trạm sẽ đáng tin cậy hơn, với NPU làm sàng lọc thô phía trước để lọc các đơn vị tốt rõ ràng và giảm tải GPU.
Tiếp theo xét huấn luyện thị giác cấp nhà máy và phân phối mô hình: huấn luyện mô hình và quản lý phiên bản nằm ở phòng thiết bị nhà máy trên máy chủ GPU, và các mô hình đã lượng tử hóa sau huấn luyện được phân phối đến thiết bị đầu cuối NPU tại từng trạm. Đây là kiến trúc phân lớp GPU cộng NPU thực dụng hiện nay. FPGA ở lại phía cảm biến và thu nhận, làm sạch dữ liệu thô trước khi chuyển lên.
4. Những điểm nào cần chú ý khi lựa chọn và triển khai
Tương thích bắt đầu từ giao thức. Hộp suy luận biên phải kết nối được với các cổng OPC-UA, Modbus TCP hoặc Profinet hiện có trên dây chuyền, nếu không dữ liệu không vào được. Về định dạng mô hình, xác nhận chuỗi công cụ của nhà cung cấp hỗ trợ ONNX hoặc định dạng xuất từ khung huấn luyện của bạn, và kiểm tra trước độ phủ toán tử để không phát hiện toán tử hậu xử lý không được hỗ trợ ngay lúc triển khai.
Đừng chỉ xem TOPS với chỉ số hiệu năng. Suy luận trong nhà máy quan tâm hơn đến độ trễ một khung hình và độ ổn định thông lượng, nên hãy hỏi rõ độ trễ đo được ở batch size 1 và hành vi công suất, nhiệt độ trong 72 giờ chạy liên tục. Về yêu cầu môi trường, mặt bằng xưởng thường vượt 40 độ C với bụi và nhiễu điện từ, nên hộp NPU không quạt cần chiến lược giảm xung được xác nhận và phương án GPU cần cấp bảo vệ vỏ cùng chu kỳ bảo trì bộ lọc được xác nhận.
Về các bước triển khai, hãy bắt đầu bằng PoC một trạm: chạy hai tuần trên dữ liệu dây chuyền thực để kiểm chứng độ chính xác và nhịp có khớp không, rồi mới bàn triển khai hàng loạt. Ngoài phần cứng, cơ cấu chi phí phải bao gồm lao động tinh chỉnh lượng tử hóa mô hình, cải tạo mạng tại chỗ và giờ kỹ thuật cho lần lặp thuật toán sau; các phương án FPGA đặc biệt cần đánh giá xem có sẵn nguồn lực phát triển logic hay không.
Một sai lầm phổ biến là đưa card huấn luyện đến ngay cạnh dây chuyền sản xuất. Card huấn luyện có yêu cầu công suất và làm mát cao mà môi trường dây chuyền thường không đáp ứng; một sai lầm khác là cho rằng NPU chỉ chạy được mô hình nhỏ, trong khi thực tế các mô hình phát hiện quy mô trung bình đã lượng tử hóa chạy suy luận thời gian thực trên NPU biên là khá phổ biến, với độ trưởng thành của chuỗi công cụ là yếu tố quyết định.
5. Phán đoán mức phù hợp: chọn gì cho kịch bản nào và không nên ép ở đâu
Kịch bản phù hợp GPU: suy luận tập trung trên nhiều luồng video độ nét cao, mô hình cập nhật thường xuyên, và máy huấn luyện kiêm suy luận cấp nhà máy. Không phù hợp: dự án cải tạo một trạm công suất thấp không có điều kiện làm mát.
Kịch bản phù hợp NPU: kiểm tra thị giác cấp trạm, hộp suy luận biên và thiết bị đầu cuối kiểm tra dạng AI PC, với nhịp ổn định và mô hình đã lượng tử hóa, đã kiểm chứng. Không phù hợp: tác vụ nghiên cứu cần mô hình lớn chưa lượng tử hóa hoặc toán tử tùy chỉnh cao.
Kịch bản phù hợp FPGA: hợp nhất phía trước cảm biến đa phương thức, độ trễ tất định cấp micro giây, và giai đoạn thu nhận có giao thức giao diện đặc biệt. Không phù hợp: thuật toán còn thử nghiệm nhanh, hoặc nhóm không có năng lực phát triển logic.
Một kiến trúc kết hợp phù hợp với phần lớn nhà máy vừa và lớn: FPGA ở phía cảm biến để tiền xử lý, NPU tại các trạm để suy luận thời gian thực, và GPU cấp nhà máy để huấn luyện và phán đoán lại các ca khó. Hãy làm rõ trần độ trễ, ngân sách công suất và tần suất cập nhật mô hình của từng hoạt động trước khi quyết định loại chip, điều này đáng tin cậy hơn nhiều so với chọn chip trước rồi tìm kịch bản sau. Kinh nghiệm công nghiệp từ một nhà cung cấp đã hoạt động hàng chục năm từ kỷ nguyên ERP, phục vụ 1,2 triệu khách hàng và đã triển khai hàng chục triệu thiết bị đầu cuối cũng cho thấy việc chọn phần cứng cho nhà máy thành công hay thất bại ở giao diện và khả năng thích ứng tại chỗ, không phải ở năng lực tính toán trên giấy.