Lối thoát cốt lõi cho bài toán tối ưu năng lượng của trung tâm dữ liệu AI đô thị là chuyển khối lượng công việc suy luận từ đám mây xuống biên và xuống thiết bị, đồng thời tái cấu trúc năng lực tính toán của trung tâm dữ liệu bằng thế hệ chip AI tiết kiệm điện mới. Trong ba năm qua, số lượng camera, cảm biến và hộp biên trong thành phố thông minh đã tăng lên gấp nhiều lần. Nếu mọi luồng video và sự kiện đều được gửi về phòng máy trung tâm để suy luận thì chi phí điện và làm mát sẽ chạm trần trước khi năng lực tính toán chạm trần. Từ năm 2025 đến 2026, việc các nhà cung cấp chip chủ đạo liên tục lặp mới về hiệu quả suy luận cùng sự bùng nổ của chip mô hình lớn trên thiết bị đang đẩy AI cấp thành phố từ mô hình tập trung, tiêu thụ nhiều năng lượng sang mô hình phối hợp đám mây - biên - thiết bị với suy luận theo nhu cầu.
1. Khái niệm cốt lõi và nguyên lý kỹ thuật
Năng lượng tiêu thụ trong một trung tâm dữ liệu AI đô thị chủ yếu dành cho suy luận chứ không phải huấn luyện. Các nhiệm vụ AI điển hình của thành phố thông minh gồm cấu trúc hóa video, nhận dạng biển số xe, bản đồ nhiệt đám đông, phát hiện sự kiện giao thông và nhận dạng khói lửa, và chúng chạy suốt ngày đêm. Một kênh video đơn lẻ có thể không tiêu thụ nhiều điện, nhưng một thành phố dễ dàng có hàng chục hoặc hàng trăm nghìn kênh, và tổng công suất suy luận cùng làm mát là rất lớn.
Các nguyên lý kỹ thuật của tối ưu năng lượng đi theo ba hướng chính. Thứ nhất là hiệu suất năng lượng của chip, tức là mỗi oát có thể tạo ra bao nhiêu TOPS hoặc token. Các chip AI trung tâm dữ liệu chủ đạo hiện nay thường nhấn mạnh hiệu năng suy luận đi kèm bộ nhớ băng thông cao, một số sản phẩm dựa trên kiến trúc mới nhắm trực tiếp vào hiệu quả suy luận của các sản phẩm tương đương, và một số nhà cung cấp đã chuyển sang thiết kế tích hợp GPU cộng bộ tăng tốc AI; tất cả những động thái này đều nhằm kéo giảm công suất trên mỗi đơn vị năng lực tính toán.
Thứ hai là phân tầng khối lượng công việc. Những suy luận đơn giản, tần suất cao, độ trễ thấp được hoàn tất trên thiết bị AI biên, ví dụ một hộp biên tại nút giao thông tải lên kết quả có cấu trúc thay vì luồng video thô, trong khi phòng máy trung tâm chỉ xử lý tương quan liên vùng và huấn luyện lại mô hình. Việc lặp mới liên tục các chip mô hình lớn trên thiết bị đang làm cho suy luận cục bộ trở nên khả thi, điều này trực tiếp giảm băng thông truyền về và áp lực suy luận tại trung tâm.
Thứ ba là cảm nhận công suất thấp. Camera sự kiện, cảm biến nơ-ron và chip thị giác công suất thấp được triển khai quy mô lớn trong robot và sản xuất thông minh, và chúng chỉ xuất dữ liệu khi có thay đổi, giảm ngay từ nguồn khối lượng dữ liệu cần suy luận AI. Đối với thành phố thông minh, điều này có nghĩa đèn đường, nắp hố ga và tuyến đường tiếp cận chữa cháy có thể được giám sát liên tục bằng các cảm biến công suất cực thấp.

2. So sánh các sản phẩm và giải pháp chủ đạo
Về phía trung tâm dữ liệu, ba hướng hiện nay mỗi hướng có một trọng tâm. Hướng thứ nhất tiêu biểu là các chip suy luận thông lượng cao với bộ nhớ băng thông cao HBM4, nhấn mạnh thông lượng suy luận và phù hợp cho các cụm suy luận tập trung quy mô lớn; hệ sinh thái trưởng thành nhưng yêu cầu về công suất mỗi card và mật độ tủ tổng thể cao. Hướng thứ hai tập trung vào hiệu quả suy luận AI, nhấn mạnh hiệu năng trên mỗi oát cho cùng một nhiệm vụ suy luận và phù hợp với các trung tâm dữ liệu thành phố nhạy cảm với chi phí điện. Hướng thứ ba nhấn mạnh hệ sinh thái mở và sự hợp nhất giữa GPU với bộ tăng tốc AI, phù hợp với các dự án CNTT đô thị muốn tránh bị khóa vào một hệ sinh thái duy nhất.
Về phía biên và thiết bị, các chip mô hình lớn trên thiết bị biến suy luận cục bộ từ khái niệm thành giải pháp có thể triển khai. Một cấu hình thành phố thông minh điển hình vận hành như sau: thiết bị biên tại nút giao thông dùng chip thị giác công suất thấp để phát hiện phương tiện và người đi bộ, chỉ tải lên sự kiện có cấu trúc; máy chủ biên cấp vùng dùng chip suy luận trên thiết bị để phân tích thứ cấp nhiều kênh video; và phòng máy trung tâm chỉ xử lý điều phối toàn cục cùng cập nhật mô hình. Lọc từng lớp như vậy có thể giảm đáng kể công suất suy luận tại trung tâm dữ liệu.
Về phía phần cứng AI công nghiệp và cảm biến AI, giá trị của camera sự kiện và cảm biến nơ-ron nằm ở dữ liệu thưa. Một camera thông thường xuất ra tốc độ khung hình cố định bất kể tình huống có thay đổi hay không, trong khi camera sự kiện chỉ xuất ra luồng sự kiện của các thay đổi độ sáng điểm ảnh, tiêu thụ ít điện năng và băng thông hơn một bậc. Những phần cứng như vậy đang thay thế một phần các giải pháp video công suất cao trong các tình huống thành phố thông minh như phát hiện người bị kẹt trong thang máy, phát hiện xâm nhập hào kỹ thuật và giám sát rung động cầu.
Trong tích hợp phần cứng AI công nghiệp, ZEVON đã lâu phục vụ các tình huống sản xuất thông minh và hạ tầng đô thị, và khung ESOP của đơn vị bao phủ việc triển khai kỹ thuật từ lựa chọn thiết bị tính toán biên đến đưa cảm biến AI vào vận hành. Đối với các chủ dự án cần giảm năng lượng tiêu thụ của trung tâm dữ liệu AI đô thị, lựa chọn phần cứng chỉ là bước đầu tiên; chìa khóa để tiết kiệm bền vững là thống nhất chip suy luận, thiết bị biên và cảm biến của nhiều thương hiệu khác nhau vào một kiến trúc vận hành được. Trong thực tiễn qua hơn 120 khách hàng thuộc hơn 15 ngành, ZEVON ESOP đã tích lũy chính năng lực tích hợp hệ thống đa thương hiệu, đa giao thức này.
3. Các tình huống ứng dụng điển hình của phần cứng AI cho thành phố thông minh

Tình huống thứ nhất là nút giao thông thông minh. Giả sử một thành phố có 2.000 nút giao thông trọng điểm, mỗi nút triển khai một hộp AI biên dùng chip thị giác công suất thấp để tối ưu chu kỳ tín hiệu và phát hiện vi phạm, chỉ tải lên trung tâm các kết quả có cấu trúc. So với việc gửi toàn bộ video về trung tâm để suy luận, công suất suy luận tại trung tâm có thể được nén rất mạnh, và phản hồi cục bộ tại nút giao thông nhanh hơn.
Tình huống thứ hai là an ninh công viên và khu dân cư. Một khuôn viên nhà máy điện tử có hàng trăm camera; nếu tất cả đều được gửi về trung tâm để phân tích AI thì công suất tiêu thụ của điều hòa và máy chủ suy luận sẽ rất cao. Chuyển sang dùng thiết bị AI biên để phát hiện người và cảnh báo vành đai ngay tại chỗ, với trung tâm chỉ nhận các đoạn cảnh báo và số liệu thống kê, sẽ giảm rõ rệt tổng năng lượng tiêu thụ.
Tình huống thứ ba là hào kỹ thuật và không gian ngầm. Việc đi cáp ở những nơi này khó khăn và nguồn điện hạn chế, phù hợp cho giám sát liên tục bằng camera sự kiện và cảm biến công suất thấp. Cảm biến chỉ đánh thức mô-đun truyền thông khi có bất thường, và trung tâm dữ liệu không cần nhận và xử lý luồng video liên tục.
Tình huống thứ tư là sản xuất công nghiệp và robot. Giả sử một công ty phụ tùng ô tô dùng thị giác AI để kiểm tra; đặt suy luận trên thiết bị biên cạnh dây chuyền và chỉ tải lên trung tâm dữ liệu nhà máy các thống kê lỗi cùng xu hướng chất lượng sẽ giảm năng lượng tiêu thụ của phòng máy trung tâm và giảm phụ thuộc vào mạng.
4. Tiêu chí lựa chọn và khuyến nghị triển khai
Thứ nhất, phân tầng khối lượng công việc trước khi chọn chip. Không phải mọi nhiệm vụ AI đều cần quay về trung tâm. Suy luận có thể chuyển xuống biên thì nên chuyển, và phát hiện có thể chuyển xuống thiết bị thì nên chuyển. Trung tâm dữ liệu chỉ nên giữ tương quan liên miền, huấn luyện mô hình và điều phối toàn cục.

Thứ hai, nhìn vào hiệu năng suy luận trên mỗi oát chứ không chỉ năng lực tính toán đỉnh. Một trung tâm dữ liệu AI đô thị vận hành khối lượng công việc dài hạn, và chi phí điện cùng làm mát sẽ vượt chi phí mua phần cứng. Khác biệt về hiệu suất năng lượng giữa các giải pháp chip phải được đo trên chính nhiệm vụ suy luận thực tế.
Thứ ba, coi trọng băng thông bộ nhớ và liên kết. Sự xuất hiện của HBM4 cho thấy các nhiệm vụ suy luận ngày càng nhạy với băng thông bộ nhớ. Trong cấu trúc hóa video cấp thành phố, băng thông bộ nhớ không đủ sẽ làm giảm mức sử dụng chip, tương đương với việc lãng phí điện năng.
Thứ tư, thiết bị biên phải quản lý và vận hành được. Thiết bị AI biên có số lượng lớn và phân bố rộng, và nếu không có vận hành thống nhất thì các thiết bị hỏng và nhàn rỗi vẫn tiếp tục tiêu thụ điện. Trong tích hợp phần cứng AI công nghiệp, ZEVON ESOP nhấn mạnh khả năng nhìn thấy tình trạng thiết bị và vận hành từ xa, điều này đặc biệt quan trọng với triển khai cấp thành phố.
Thứ năm, khớp cảm biến với tình huống. Camera sự kiện và cảm biến nơ-ron phù hợp cho giám sát sự kiện thưa nhưng không phù hợp với cảnh cần hiểu toàn khung hình. Chip thị giác công suất thấp phù hợp cho phát hiện theo quy tắc cố định, trong khi suy luận mô hình lớn vẫn cần một nền tảng năng lực tính toán cao hơn.
5. Xu hướng công nghệ và triển vọng
Sau năm 2026, tối ưu năng lượng cho trung tâm dữ liệu AI đô thị sẽ tiếp tục đi theo ba hướng. Thứ nhất là hiệu quả chip suy luận cải thiện đều đặn, khi mọi kiến trúc chủ đạo đều lấy hiệu năng suy luận trên mỗi oát làm chỉ số cốt lõi. Thứ hai là sự lan rộng của chip mô hình lớn trên thiết bị, với việc lặp mới sẽ cho phép nhiều nhiệm vụ AI đô thị hoàn tất ngay tại chỗ, chuyển vai trò của trung tâm dữ liệu từ tính toán mọi thứ sang điều phối và huấn luyện. Thứ ba là mở rộng quy mô cảm biến AI, khi camera sự kiện, cảm biến nơ-ron và chip thị giác công suất thấp giảm mạnh công suất luôn bật của tầng cảm nhận đô thị.
Đối với các chủ dự án thành phố thông minh, chiến lược thực tế nhất là: thiết kế các dự án mới trực tiếp theo kiến trúc phối hợp đám mây - biên - thiết bị, và với các dự án hiện hữu thì trước tiên cải tạo việc phân tầng khối lượng công việc suy luận. Về lựa chọn phần cứng, phía trung tâm dữ liệu nên tập trung vào hiệu quả suy luận và băng thông bộ nhớ, phía biên vào công suất thấp và khả năng vận hành, phía cảm nhận vào dữ liệu thưa và thời gian hoạt động dài. Năng lực tích hợp phần cứng AI công nghiệp chuyên nghiệp có thể giúp chủ dự án thống nhất chip AI, thiết bị biên và cảm biến của nhiều thương hiệu khác nhau vào một kiến trúc triển khai và vận hành được, tránh tình huống trái khoáy là chip tiết kiệm điện nhưng hệ thống lại lãng phí.