공장에서 AI 칩을 선택하는 데는 하나의 정답이 없다. 판단 기준은 작업 유형, 실시간 요구 사항, 전력 예산이다. 학습과 대규모 모델 추론에는 GPU를 우선 선택하고, 저전력 환경의 고정 알고리즘에는 NPU를, 초저지연과 프로토콜 유연성이 중요한 곳에는 FPGA를 선택한다.
1. 핵심 개념과 기술 원리
공장 AI 하드웨어는 '계산할 수 있는 것'에서 '빠르고 안정적이며 경제적으로 계산하는 것'으로 이동하고 있다. 라인 검사는 과거 사람의 육안 확인에 의존했지만 오늘은 AI 비전에 의존한다. 예측 유지보수는 과거 정기 순찰에 의존했지만 오늘은 진동과 소리에 대한 실시간 추론에 의존한다. 이 모든 것 뒤에 있는 결정적 요소가 바로 AI 칩이다.
GPU(그래픽 처리 장치)는 병렬 연산에 탁월하며 많은 연산 코어와 고대역폭 메모리를 갖추고 있어 딥러닝 학습과 파라미터가 많은 대형 비전 모델에 적합하다. NVIDIA는 2025년 추론 성능과 HBM4 메모리에 초점을 맞춘 Blackwell Ultra(B300)를 출시했고, Rubin 아키텍처 로드맵을 공개하며 2026년 Rubin 플랫폼 양산을 계획하고 있다. AMD는 MI350 시리즈(CDNA4 아키텍처)를 선보이고 MI400을 계획하고 있으며, Intel은 Gaudi 3와 Falcon Shores GPU를 추진하고 있어 AI 가속기 경쟁이 치열하다.
NPU(신경망 처리 장치)는 신경망 추론을 위해 설계된 전용 칩으로, Qualcomm, MediaTek, Apple이 엣지 기기에 통합하는 NPU가 대표적이다. 저전력과 높은 에너지 효율이 특징이며, 공장의 휴대용 검사기, AI 카메라, 웨어러블 순찰 단말처럼 대형 모델의 온디바이스 추론에 적합하다.
FPGA(필드 프로그래머블 게이트 어레이)는 하드웨어 프로그래밍이 가능해 사용자가 자사 알고리즘에 맞춰 회로 논리를 정의할 수 있다. 초저지연과 유연한 인터페이스가 장점으로, 다채널 고속 신호 수집, 프로토콜 변환, 결정적 실시간 제어, 예컨대 라인의 PLC 인터록이나 고속 카메라 트리거에 적합하다.
2. 주요 제품과 솔루션 비교
실제 공장 적용 관점에서 보면 세 가지 칩 유형의 선택 논리는 크게 다르다.
GPU 솔루션: 중앙 또는 라인 단위 AI 서버에 적합하다. NVIDIA Jetson Thor 같은 플랫폼은 로보틱스와 지능형 제조를 겨냥해 다채널 비전 추론을 위한 높은 연산력을 제공한다. AMD의 MI350 시리즈와 Intel Gaudi 3도 AI 가속기 시장을 두고 경쟁하고 있다. GPU의 강점은 성숙한 생태계와 우수한 프레임워크 지원이고, 단점은 전력 소비와 비용이 높다는 점으로, 생산 라인 옆에 배치하려면 냉각과 전력 설비 보강이 필요하다.


NPU 솔루션: 엣지 AI 기기에 적합하다. Qualcomm, MediaTek, Apple의 고연산 저전력 NPU 칩은 대형 모델의 온디바이스 추론을 지원한다. 공장 환경에서는 NPU를 산업용 카메라, AGV, 휴대용 단말에 내장해 결함 검출, 문자 인식, 안전모 착용 확인을 수행할 수 있다. 장점은 저전력과 소형화이고, 한계는 연산력이 제한되어 고정 모델 추론에 적합하다는 점이다.
FPGA 솔루션: 실시간 제어와 다중 센서 융합에 적합하다. AI 센서는 이벤트 기반 비전, 밀리미터파, 저전력 엣지 컴퓨팅을 결합해 자율주행, 산업 검사, 웨어러블에 활용된다. FPGA는 여러 밀리미터파 레이더, 이벤트 카메라, 진동 센서의 데이터를 동시에 처리하고 마이크로초 단위로 융합 판단을 완료할 수 있다. 장점은 극히 낮은 지연과 사용자 정의 가능한 인터페이스이고, 단점은 개발 장벽이 높고 알고리즘 이전 비용이 크다는 점이다.
공장 AI 하드웨어 솔루션을 통합하는 과정에서 ZEVON ESOP는 산업용 필드버스, 비전 추론, 엣지 컴퓨팅 분야의 실무 경험을 축적해 왔으며, 라인 택트 타임과 전력 제약에 따라 칩 선택을 제안할 수 있다. ZEVON ESOP는 15개 이상 산업에서 120개 이상 고객에게 서비스하고 누적 3,200대 이상의 단말을 보유하며, 전자 제조와 자동차 부품 분야에서 상당한 실적을 갖고 있다.
3. 공장 AI 하드웨어의 대표 응용 시나리오
시나리오 1: 전자 공장의 외관 결함 검사. 전자 공장은 PCB 기판의 냉납과 부품 틀어짐을 검출해야 한다. 이런 작업은 모델이 고정되어 있고 택트 타임이 빨라 NPU 엣지 박스가 적합하다. 한 대의 소비 전력은 15 W 미만이며 라인 브래킷에 직접 장착할 수 있다.
시나리오 2: 자동차 부품사의 부품 치수 측정. 자동차 부품 기업이 브레이크 디스크의 두께와 평탄도를 측정하고 결과를 실시간으로 출력하며 PLC와 인터록해야 한다고 가정하자. 이 시나리오는 고속 카메라 트리거, 실시간 연산, 1 ms 미만 지연의 제어 신호 출력이 필요하므로 FPGA 솔루션이 적합하다.