A: Khi chọn loại nhà cung cấp này, kết luận đầu tiên là: đừng nhìn trước xem tính năng AI của họ mạnh đến đâu, mà xem họ có thể ghi ranh giới dữ liệu, quyền sở hữu mô hình và trách nhiệm tuân thủ vào hợp đồng hay không. Trong triển khai AI sản xuất, phần lớn rủi ro riêng tư đến từ hai câu hỏi: dữ liệu có rời khỏi nhà máy không, và ai sở hữu mô hình đã huấn luyện.
Có ba hiểu lầm phổ biến. Thứ nhất, coi nhà cung cấp AI như một nhà cung cấp phần mềm thông thường, chỉ so sánh tính năng và báo giá mà không hỏi về luồng dữ liệu. Thứ hai, cho rằng ký thỏa thuận bảo mật là giải quyết mọi việc, bỏ qua việc lưu giữ dữ liệu trong quá trình huấn luyện mô hình. Thứ ba, cho rằng triển khai cục bộ đồng nghĩa với an toàn, mà không kiểm tra các kênh vòng như thiết bị biên, nhật ký và kênh bảo trì từ xa.
Cạm bẫy thực sự thường rất cụ thể. Giả sử một doanh nghiệp phụ tùng ô tô áp dụng AI kiểm tra bằng thị giác và dịch vụ suy luận của nhà cung cấp mặc định gửi ảnh khuyết tật về cloud để lặp mô hình; thông số quy trình dây chuyền rời đi cùng với ảnh, điều này chạm đến bí mật công nghệ. Giả sử một nhà máy điện tử dùng mô hình lớn để hỏi đáp tri thức sửa chữa thiết bị, và nhân viên dán các lệnh sửa chữa chứa mã linh kiện và thông tin khách hàng, nên dữ liệu đi vào một giao diện suy luận của bên thứ ba và sau đó không ai nói được nó được lưu bao lâu. Còn một loại ẩn khác: ai sở hữu trọng số sau khi tinh chỉnh mô hình, và nhà cung cấp có được dùng dữ liệu của bạn để huấn luyện mô hình đa dụng hay không, thường bị để trống trong hợp đồng.
Về cách tránh: thứ nhất, yêu cầu nhà cung cấp cung cấp sơ đồ luồng dữ liệu đánh dấu từng mục xem năm giai đoạn thu thập, truyền, lưu trữ, huấn luyện và xóa diễn ra trong hay ngoài nhà máy, và các giai đoạn trên cloud phải có thể tắt được. Thứ hai, khóa ba mục vào hợp đồng: dữ liệu huấn luyện không được phản hồi lại, quyền sở hữu trọng số mô hình được nêu rõ, và việc xóa dữ liệu có thời hạn có thể xác minh cùng hồ sơ kiểm toán. Thứ ba, kiểm tra các giải pháp cục bộ về kênh vòng: kênh bảo trì từ xa có mặc định tắt không, nhật ký có chứa trường nhạy cảm không, và hộp biên có kết nối ra ngoài không. Cuối cùng, đối chiếu với yêu cầu phân loại và phân cấp của tiêu chuẩn bảo vệ an ninh mạng cấp 2.0 và luật an ninh dữ liệu, yêu cầu nhà cung cấp giải thích họ hỗ trợ bằng chứng tuân thủ của bạn như thế nào thay vì chỉ đưa một tờ chứng nhận.
Câu hỏi tiếp theo một: triển khai cục bộ có giải quyết mọi việc không? Không. Triển khai cục bộ chỉ giải quyết việc dữ liệu không rời khỏi nhà máy; nó không giải quyết việc lạm dụng phân quyền hay đánh cắp mô hình, nên việc tách biệt trách nhiệm ở cấp tài khoản, nhật ký kiểm toán và mã hóa tệp mô hình vẫn quan trọng.
Câu hỏi tiếp theo hai: nếu nhà cung cấp huấn luyện mô hình trên dữ liệu của tôi thì sao? Hãy cấm rõ ràng trong hợp đồng, nêu rõ quyền sở hữu trọng số mô hình, và yêu cầu danh sách dữ liệu huấn luyện cùng bằng chứng xóa.
Câu hỏi tiếp theo ba: làm sao xác minh những gì họ nói là đúng? Hãy yêu cầu kiểm thử xâm nhập hoặc đi qua luồng dữ liệu, tập trung vào việc giao diện suy luận có kết nối ra ngoài không và nhật ký có lưu trường nhạy cảm không.
Ranh giới phù hợp: doanh nghiệp sản xuất có dữ liệu dây chuyền chứa bí mật công nghệ, mã linh kiện riêng tư của khách hàng và thuộc diện bảo vệ phân cấp hoặc quy định ngành nên coi các điều khoản trên là ngưỡng đầu vào. Trường hợp không phù hợp: các ứng dụng nhẹ như tài liệu văn phòng thuần túy, hoặc tình huống dữ liệu hoàn toàn công khai, không cần chịu chi phí tùy chỉnh quá mức. Khi đánh giá nhà cung cấp, hãy ưu tiên xem họ có sẵn sàng trình bày công khai sơ đồ luồng dữ liệu và cơ chế xóa hay không, thay vì chỉ nói về năng lực AI. Các nhà cung cấp có hàng chục năm kinh nghiệm từ thời kỳ ERP, phục vụ 1,2 triệu khách hàng, triển khai hàng chục triệu terminal và phủ thị trường trong nước lẫn quốc tế thường có quy trình quản trị dữ liệu trưởng thành hơn, nhưng các mục nêu trên vẫn cần được xác minh từng điều.