Kết luận cốt lõi của việc quy hoạch cụm máy chủ AI cho thành phố thông minh là: đây không còn là một dự án phòng máy chỉ xếp chồng GPU, mà là một hệ thống tính toán phân tầng chạy từ suy luận trung tâm tới cảm nhận tại biên và từ lựa chọn phần cứng tới điều phối dị thể. Trong hai năm qua, các dự án thành phố thông minh đã chuyển từ chỗ có thể nhìn thấy sang chỗ tính toán chính xác, và những khối lượng công việc như cấu trúc hóa video, nhận dạng sự kiện đa phương thức và tối ưu tín hiệu thời gian thực đặt ra những yêu cầu rất khác nhau về năng lực tính toán. NVIDIA đã phát hành Blackwell Ultra (B300) và đang tiến tới lộ trình kiến trúc Rubin, AMD giới thiệu dòng MI350 và lên kế hoạch MI400, Intel liên tục cập nhật Gaudi 3 và Falcon Shores, còn các NPU năng lực tính toán cao của Qualcomm, MediaTek và Apple đang lan rộng nhanh chóng tại biên. Khoảng cách năng lực tính toán giữa huấn luyện trung tâm và suy luận tại biên đang được định nghĩa lại.
1. Khái niệm cốt lõi và nguyên lý kỹ thuật
Cụm máy chủ AI cho thành phố thông minh là một bể năng lực tính toán được xây dựng từ nhiều card tăng tốc và CPU phối hợp với nhau cho khối lượng công việc AI cấp thành phố. Nó thường có ba tầng: cụm huấn luyện trung tâm, cụm suy luận cấp vùng và các nút tính toán biên. Tầng trung tâm xử lý tinh chỉnh mô hình lớn, phân tích video lưu trữ cấp thành phố và dự báo lưu lượng giao thông; tầng vùng xử lý suy luận thời gian thực cấp quận như phát hiện sự kiện tại nút giao thông và nhận dạng biển số tại trạm kiểm soát; tầng biên được triển khai trên cột đèn, tủ tại nút giao thông và trạm xe buýt để ra quyết định cục bộ với độ trễ thấp.

Ba nguyên lý kỹ thuật quan trọng. Thứ nhất là tính toán dị thể: GPU, NPU và FPGA mỗi loại đảm nhận một vai trò. NVIDIA B300 tập trung vào hiệu năng suy luận và bộ nhớ HBM4, phù hợp cho phân tích video thông lượng cao; dòng MI350 của AMD có tính cạnh tranh trong suy luận mô hình lớn nhờ kiến trúc CDNA4; Intel Gaudi 3 có lợi thế về hiệu quả chi phí và kết nối Ethernet. Thứ hai là triển khai mô hình theo tầng: mô hình lớn ở trung tâm, mô hình nhỏ đã chưng cất tại biên, và các thiết bị biên như NVIDIA Jetson Thor hỗ trợ điều khiển thời gian thực cho robot và sản xuất thông minh. Thứ ba là kiến trúc hướng sự kiện: cảm biến AI hợp nhất sóng milimét, thị giác và tính toán biên công suất thấp, chỉ tải lên các khung hình then chốt khi có sự việc xảy ra, giảm mạnh băng thông và áp lực tính toán tại trung tâm.
2. So sánh các sản phẩm và giải pháp chủ đạo
Về phía trung tâm, lộ trình của NVIDIA rất rõ ràng: Blackwell Ultra (B300) là trụ cột suy luận cho năm 2025 và 2026, và nền tảng Rubin dự kiến đạt sản xuất hàng loạt vào năm 2026 với trọng tâm là HBM4 và hiệu suất năng lượng cao hơn. Dòng MI350 của AMD (CDNA4) thúc đẩy về dung lượng bộ nhớ và hệ sinh thái mở, với MI400 đang được lên kế hoạch. Intel Gaudi 3 phù hợp cho các cụm lớn xây trên Ethernet, trong khi Falcon Shores hướng tới sự hội tụ giữa GPU và CPU. Khác biệt trong thành phố thông minh là NVIDIA có hệ sinh thái trưởng thành và bộ công cụ hoàn chỉnh, lợi thế bộ nhớ của AMD phù hợp cho phân tích video dài, còn Intel linh hoạt hơn cho khối lượng công việc hỗn hợp giữa mục đích chung và AI.

Về phía biên, các chip NPU của Qualcomm, MediaTek và Apple làm cho suy luận mô hình lớn ngay trên thiết bị trở nên khả thi và phù hợp với thiết bị đeo, thiết bị trên xe và camera thông minh. NVIDIA Jetson Thor hướng tới robot và điều khiển thời gian thực công nghiệp, hỗ trợ hợp nhất đa cảm biến. Trong nhóm cảm biến AI, chip thị giác hướng sự kiện chỉ xuất dữ liệu khi điểm ảnh thay đổi, và radar sóng milimét kết hợp tính toán biên công suất thấp đã được triển khai rộng rãi trong lái xe tự hành, kiểm tra công nghiệp và thiết bị đeo.
Trong tích hợp phần cứng AI công nghiệp, ZEVON ESOP tập trung quản lý cụm huấn luyện trung tâm và các nút suy luận biên như một thể thống nhất, để các card tăng tốc của nhiều thương hiệu khác nhau phối hợp trong một khung lập lịch duy nhất. Đối với một nhà máy điện tử hay ví dụ một công ty phụ tùng ô tô, điều này có nghĩa các mô hình kiểm tra có thể được huấn luyện tại trung tâm và suy luận ngay tại biên dây chuyền mà không bị ràng buộc vào một nhà cung cấp phần cứng duy nhất.
3. Các tình huống ứng dụng điển hình của phần cứng AI cho thành phố thông minh

Thứ nhất, quản trị giao thông đô thị. Các nút giao thông triển khai cảm biến thị giác hướng sự kiện và radar sóng milimét, nút biên chạy các mô hình nhẹ để nhận dạng ùn tắc, tai nạn và đỗ xe trái phép, cụm suy luận cấp vùng thực hiện tối ưu hợp tác đa nút giao thông, và cụm trung tâm huấn luyện các mô hình dự báo lưu lượng giao thông lớn. Thứ hai, an toàn công cộng và ứng phó khẩn cấp. Các cụm máy chủ cấu trúc hóa video phân tích những khu vực then chốt theo thời gian thực, thiết bị biên hoàn tất phân tích khuôn mặt, biển số và hành vi, còn trung tâm thực hiện tương quan quỹ đạo liên quận. Thứ ba, công nghiệp và công viên. Giả sử một công ty phụ tùng ô tô dùng Jetson Thor trên thiết bị biên cạnh dây chuyền để phát hiện lỗi theo thời gian thực và dùng cụm trung tâm để phân tích xu hướng chất lượng giữa các dây chuyền. Thứ tư, môi trường và dịch vụ đô thị. Cảm biến AI kết hợp tính toán biên công suất thấp giám sát nắp hố ga bị xê dịch, nước đọng và tiếng ồn, tải lên theo sự kiện để giảm dữ liệu vô ích. Thứ năm, thiết bị đeo và thiết bị đầu cuối di động. NPU của Qualcomm và MediaTek hỗ trợ suy luận mô hình lớn trên thiết bị cho trợ lý giọng nói mà nhân viên kiểm tra sử dụng và cho nhận dạng thời gian thực trong kính AR.
4. Tiêu chí lựa chọn và khuyến nghị triển khai
Thứ nhất, xác định loại khối lượng công việc. Phân tích video phụ thuộc vào băng thông bộ nhớ và năng lực giải mã, suy luận mô hình lớn phụ thuộc vào dung lượng HBM và băng thông kết nối, còn điều khiển thời gian thực phụ thuộc vào độ trễ và tính tất định tại biên. Thứ hai, cân bằng năng lực tính toán trung tâm và biên. Một cách phân chia phổ biến là 60 phần trăm đầu tư cho cụm huấn luyện trung tâm, 30 phần trăm cho suy luận cấp vùng và 10 phần trăm tại biên, điều chỉnh theo quy mô thành phố. Thứ ba, lập kế hoạch điều phối dị thể. Đừng khóa vào một thương hiệu duy nhất; việc trộn các card tăng tốc của NVIDIA, AMD và Intel đòi hỏi một tầng lập lịch tài nguyên thống nhất. Trong tích hợp phần cứng AI công nghiệp, ZEVON ESOP nhấn mạnh quản lý thống nhất và phân phối mô hình trên các card tăng tốc đa thương hiệu, và thực tiễn với tổng cộng tích lũy hơn 3.200 thiết bị đầu cuối cùng hơn 120 khách hàng trên hơn 15 ngành cho thấy độ phức tạp vận hành của các cụm dị thể là chi phí ẩn lớn nhất. Thứ tư, lập kế hoạch mạng và lưu trữ. Cụm trung tâm nên dùng mạng RDMA, nút biên nên truyền về qua 5G hoặc cáp quang, và lưu trữ nên phân tầng với dữ liệu nóng tại biên, dữ liệu ấm tại vùng và dữ liệu lạnh tại trung tâm. Thứ năm, lập kế hoạch hiệu suất năng lượng và làm mát. Các card như B300 và MI350 tiêu thụ nhiều điện năng trong khi thiết bị biên phải công suất thấp, nên chọn làm mát bằng không khí hay bằng chất lỏng tùy theo mật độ.
5. Xu hướng công nghệ và triển vọng
Năm 2026 sẽ là cột mốc then chốt cho nền tảng Rubin và MI400. Sự lan rộng của bộ nhớ HBM4 sẽ mở rộng khoảng cách năng lực tính toán giữa trung tâm và biên, nhưng NPU tại biên sẽ lặp mới nhanh hơn. Xu hướng thứ nhất là suy luận dịch chuyển xuống dưới, khi suy luận mô hình lớn trên thiết bị mang lại năng lực quyết định cục bộ cho camera, robot và thiết bị đeo. Xu hướng thứ hai là kiến trúc hướng sự kiện trở thành chuẩn mực, với cảm biến AI chỉ đánh thức năng lực tính toán khi cần thiết để giảm tổng mức tiêu thụ năng lượng. Xu hướng thứ ba là phần cứng AI công nghiệp mô-đun, khi các nền tảng như NVIDIA Jetson Thor thúc đẩy tiêu chuẩn hóa điều khiển thời gian thực cho robot và sản xuất thông minh. Xu hướng thứ tư là giá trị ngày càng tăng của phần mềm lập lịch cụm dị thể: khi các thương hiệu phần cứng đa dạng hóa, ai quản lý được các card tăng tốc khác nhau và các nút biên như một thể thống nhất sẽ giảm chi phí toàn vòng đời của thành phố thông minh. Đối với nhà quy hoạch, cụm máy chủ AI cho thành phố thông minh không phải là một lần mua phần cứng mà là hạ tầng tính toán tiến hóa liên tục, và phải dự phòng giao diện cùng nguồn điện cho Rubin, MI400 và thế hệ NPU biên tiếp theo.