Khi lựa chọn máy chủ suy luận AI cho nhà máy, ba điều quan trọng nhất là: năng lực suy luận và băng thông bộ nhớ có khớp với quy mô mô hình hay không, vị trí triển khai đòi hỏi máy chủ GPU dạng rack hay hộp suy luận biên, và khả năng tương thích giao thức cùng khả năng chịu môi trường tại hiện trường công nghiệp có đạt yêu cầu hay không. Làn sóng cập nhật phần cứng năm 2025, với NVIDIA GB300 vào sản xuất hàng loạt, dòng AMD MI350 được ra mắt và Intel Gaudi 3 tiến trên nền tảng Xeon 6, đã mở rộng đáng kể lựa chọn cho máy chủ suy luận trong nhà máy, nhưng chi phí của việc chọn sai hướng cũng cao hơn.
1. Máy chủ suy luận AI trong nhà máy thực sự giải quyết vấn đề gì
Suy luận AI trong nhà máy không giống suy luận trên đám mây. Đám mây có thể xếp thêm card và chịu được rung ở mức vài chục mili giây; nhà máy thì không. Tại trạm phán đoán lại AOI của dây chuyền SMT, nhịp độ thường từ mười đến vài chục giây, và độ trễ suy luận phải được giữ ổn định trong phạm vi nhịp độ đó; với giám sát rung trên máy ép phun, tần số lấy mẫu có thể đến vài kilohertz và suy luận phải hoàn thành tại chỗ, vì không thể gửi dạng sóng thô lên đám mây rồi chờ kết quả.
Việc một máy chủ suy luận làm trong nhà máy là “biến một mô hình đã huấn luyện thành phán đoán của dây chuyền sản xuất”. Phân loại khuyết tật bằng thị giác, bảo trì dự đoán với hợp nhất đa cảm biến, tối ưu thông số quy trình theo thời gian thực và quyết định điều phối AGV đều tập trung yêu cầu phần cứng vào ba điểm: dung lượng bộ nhớ phải chứa mô hình và dữ liệu lô, băng thông bộ nhớ phải nuôi được đơn vị suy luận, và công suất cùng làm mát của toàn thiết bị phải khớp với hệ thống phân phối điện và điều kiện tủ của nhà máy.
2. Các giải pháp phần cứng suy luận chủ lưu khác nhau thế nào và so sánh ra sao
Phần cứng suy luận hiện có cho nhà máy đại thể chia thành bốn nhóm, và khác biệt không nằm ở điểm chuẩn mà ở vị trí triển khai và dạng tải mà chúng phù hợp.
Nhóm thứ nhất là máy chủ GPU dạng rack đa dụng, đại diện là các mẫu mang NVIDIA Blackwell Ultra (GB300). Trọng tâm của thế hệ GB300 nằm ở phía suy luận: bộ nhớ HBM3e dung lượng lớn cho phép một card chứa mô hình lớn hơn hoặc kích thước lô đồng thời cao hơn, điều này thân thiện với phòng máy của các nhà cung cấp DCS đang chạy mô hình thị giác cho nhiều dây chuyền cùng lúc. Nó phù hợp nền tảng trung gian AI cấp nhà máy, nơi một máy phục vụ nhiều trạm.
Nhóm thứ hai là hướng bộ tăng tốc, gồm dòng AMD Instinct MI350 (kiến trúc CDNA4) và Intel Gaudi 3. MI350 nhắm vào khối lượng công việc hỗn hợp suy luận và huấn luyện với cấu hình bộ nhớ cao hơn; Gaudi 3 bán dựa trên hiệu quả năng lượng của suy luận doanh nghiệp, ghép với nền tảng Xeon 6 cho giải pháp toàn thiết bị. Những giải pháp như vậy phù hợp nhà máy có ràng buộc về công suất toàn thiết bị hoặc đã có tích lũy ngăn xếp phần mềm.
Nhóm thứ ba là SoC AI biên và hộp suy luận. Làn sóng SoC tính toán cao, công suất thấp hiện nay từ Qualcomm và MediaTek đã thúc đẩy sự lan rộng của AI PC và hộp suy luận biên. Những thiết bị này cung cấp năng lực tính toán trong khoảng vài TOPS đến vài chục TOPS, với điểm mạnh là vận hành không quạt hoặc công suất thấp và kích thước nhỏ, cho phép lắp trực tiếp cạnh tủ điện của dây chuyền.
Nhóm thứ tư là cảm biến AI đa phương thức tích hợp suy luận, trong đó cảm biến thị giác, LiDAR và rung tích hợp đơn vị suy luận vào đầu dò và xuất kết quả phán đoán thay vì dữ liệu thô. Những thiết bị như vậy thay đổi kiến trúc đấu dây, vì dữ liệu băng thông cao không còn phải kéo về phòng thiết bị.
Về các chiều so sánh, nên dùng bốn chiều: dung lượng và băng thông bộ nhớ (quyết định chạy được mô hình lớn đến đâu), công suất và hình thức làm mát (quyết định lắp được ở đâu), mức hỗ trợ giao thức công nghiệp (OPC-UA, Modbus TCP, Profinet và tương tự), và mức tương thích của ngăn xếp phần mềm với các mô hình hiện có.
3. Kịch bản nào phù hợp với phần cứng AI trong nhà máy
Giả sử xưởng gia công của một công ty phụ tùng ô tô giám sát rung trục chính và bất thường âm thanh tại vài chục điểm lấy mẫu; mô hình suy luận không lớn nhưng cần phản hồi mili giây. Những kịch bản như vậy chỉ cần một hộp suy luận biên hoặc cảm biến rung tích hợp suy luận là đủ, không cần máy chủ rack.
Giả sử một nhà máy điện tử thực hiện phán đoán lại AOI sau SMT, nơi hơn mười dây chuyền chia sẻ một mô hình phân loại khuyết tật, mô hình có số tham số vừa phải nhưng đồng thời cao, và kết quả phải trả về MES. Trường hợp này phù hợp máy chủ suy luận GPU đặt trong phòng thiết bị của nhà máy, mở dịch vụ suy luận cho tất cả dây chuyền qua mạng nội bộ.
Cũng có nhóm tối ưu thông số quy trình, như gợi ý thông số cho ép phun hoặc đúc khuôn, nơi mô hình cần đọc dữ liệu SCADA lịch sử để suy luận theo lô; những tác vụ như vậy không nhạy cảm với độ trễ nhưng cần thông lượng, nên giải pháp bộ tăng tốc dạng rack phù hợp hơn.
4. Những điểm nào cần chú ý khi lựa chọn và triển khai
Câu hỏi thường gặp thứ nhất là mô hình lớn đến đâu và có cần bộ nhớ lớn hay không. Dấu chân bộ nhớ giữa mô hình thị giác lớn và CNN truyền thống khác nhau một bậc, và các mô hình bộ nhớ lớn như GB300 với HBM3e giải bài toán “chạy nhiều mô hình trên một máy”; nếu chỉ là mô hình nhỏ với đồng thời cao thì một hộp biên thực ra kinh tế hơn.
Câu hỏi thứ hai là xác định vị trí triển khai thế nào. Triển khai trong phòng máy phải xét mật độ công suất rack và năng lực điều hòa, vì yêu cầu phân phối điện của máy chủ GPU công suất lớn không cùng mức với thiết bị CNTT thông thường; triển khai trên dây chuyền phải xét cấp bảo vệ của tủ điện, đánh giá bụi, sương dầu và nhiễu điện từ, và chọn hộp biên có cấp IP phù hợp khi cần.
Câu hỏi thứ ba là tích hợp giao thức. Máy chủ suy luận trong nhà máy không chạy độc lập; kết quả phán đoán phải vào MES và kích hoạt hành động của PLC. Khi lựa chọn, hãy xác nhận thiết bị có hỗ trợ gốc OPC-UA và Modbus TCP hay không và kết nối với SCADA hiện có thế nào, điều này thường ảnh hưởng đến chu kỳ triển khai nhiều hơn thông số tính toán.
Câu hỏi thứ tư là môi trường và tuân thủ. Thiết bị tại hiện trường công nghiệp thường phải đáp ứng yêu cầu ESD theo IEC 61340 cùng các điều kiện nhiệt độ, độ ẩm và rung của xưởng liên quan, và các khâu liên quan điều khiển điện cũng phải tuân thủ yêu cầu quản lý thiết bị trong hệ thống ISO 9001. Đây không phải điểm cộng khi lựa chọn mà là ngưỡng đầu vào.
Câu hỏi thứ năm là các bước triển khai. Lộ trình hợp lý là POC trên một trạm để kiểm chứng độ trễ và độ chính xác suy luận, rồi nhân rộng lô nhỏ sang các quy trình tương tự, và cuối cùng tích hợp với MES để đóng vòng. Bỏ qua POC và triển khai toàn nhà máy dễ dẫn đến làm lại ở phần tích hợp giao thức và trả dữ liệu.
5. Kịch bản nào giải pháp này phù hợp và kịch bản nào không
Kịch bản phù hợp: quy trình có nhịp độ dây chuyền ổn định và vật liệu đến có độ nhất quán tốt, như kiểm tra ngoại quan chi tiết tiêu chuẩn, giám sát rung tại trạm cố định và gợi ý thông số quy trình với tham số tương đối ổn định; và nhà máy đã có nền tảng MES hoặc SCADA, có thể đưa kết quả suy luận vào dòng chảy sản xuất.
Kịch bản không phù hợp hoặc cần đánh giá thêm: kiểm tra ngoại quan các chi tiết phản xạ mạnh và biến dạng lớn, nơi yêu cầu độ bền vững mô hình cao và năng lực tính toán của hộp biên có thể không đủ; dây chuyền nhiều chủng loại, lô nhỏ và đổi mã hàng thường xuyên, nơi chi phí chuyển mô hình và gán nhãn lại phải tính riêng; và nhà máy cũ có hệ thống điện và làm mát không đáp ứng, nơi phải hoàn thành đánh giá cải tạo phòng máy trước khi lắp máy chủ GPU công suất lớn.
Bản chất của việc lựa chọn không phải chạy theo chip mới nhất mà là làm rõ ba ràng buộc gồm quy mô mô hình, vị trí triển khai và môi trường giao thức, rồi suy ngược ra hình thức phần cứng. Giá trị của phần cứng mới như GB300, MI350 và Gaudi 3 nằm ở việc làm cho hình thức “nền tảng trung gian suy luận cấp nhà máy” trở nên khả thi, còn giá trị của SoC biên và cảm biến tích hợp suy luận nằm ở việc để suy luận hạ xuống những trạm làm việc vốn không thể chứa máy chủ. Hai hướng không xung đột, và phần lớn nhà máy cuối cùng sẽ triển khai hỗn hợp.