공장 AI 칩 선정에 만능 답은 없습니다. 핵심은 해당 작업이 학습, 추론, 초저지연 제어 중 어디에 속하는지입니다. 학습 클러스터는 GPU가 유리하고, 라인 비전 추론은 NPU가 유리하며, 밀리초 응답이 필요한 프로토콜 변환은 FPGA가 더 안정적입니다.
1. 핵심 개념과 기술 원리
GPU는 그래픽 프로세서로 수천 개의 작은 코어로 행렬을 병렬 처리하며, 높은 처리량의 딥러닝 학습과 배치 추론에 적합합니다. NPU는 신경망 프로세서로 합성곱과 행렬 곱셈 같은 연산자를 전용 회로로 바꿔 전력이 낮고 크기가 작아 엣지 박스, 산업용 카메라, 로봇 컨트롤러에서 흔히 볼 수 있습니다. FPGA는 현장 프로그래머블 게이트 어레이로 논리 셀을 반복적으로 재프로그래밍할 수 있어 다채널 영상 스티칭, 산업 프로토콜 변환, 나노초 수준 트리거 제어 같은 비표준 작업에 적합합니다. 세 가지의 차이는 절대적 연산이 아니라 유연성, 전력 효율, 지연 사이의 트레이드오프입니다.
2. 주류 제품과 솔루션 비교
NVIDIA는 2026년 3nm 공정과 HBM4로 Rubin 아키텍처를 양산해 Blackwell을 잇고 데이터센터 학습을 겨냥하며, 엣지에서는 Jetson Thor 플랫폼으로 로봇과 라인 비전을 지원합니다. AMD Instinct MI400 시리즈는 CDNA 5 아키텍처로 학습과 추론을 강화하고 Ryzen AI 300은 엣지 프로세서로 나아갑니다. Intel은 Panther Lake(18A 공정)와 Gaudi 4 가속기를 밀어붙이며 엣지와 데이터센터 양쪽에서 전력 효율과 개방형 생태계로 경쟁합니다. 엣지 AI 칩에서는 퀄컴과 미디어텍, NVIDIA가 모두 로컬 대형 모델 추론을 지원하는 저전력 엣지 솔루션을 밀어붙이고 있어 공장은 네트워크가 끊겨도 작업을 계속할 수 있습니다.
공장 시나리오에서 GPU 솔루션은 중앙 학습 서버와 결함 검출 모델 개선에, NPU 솔루션은 라인 옆 추론 박스로 장비 한 대가 여러 카메라를 처리하는 곳에, FPGA 솔루션은 PLC와 비전 트리거, 모션 제어를 한 보드에 결합하는 구설비 개조에 적합합니다. 어느 것도 모든 면에서 이기지 않으며 문제는 어떤 것이 작업에 맞는가뿐입니다.
3. 공장 AI 하드웨어의 대표 응용 시나리오
PCB 외관 검사를 하는 전자 공장은 산업용 카메라 8대에 NPU 추론 박스를 연결하고 채널마다 소형 모델로 결함 분류를 30밀리초 이내에 수행해 GPU 카드가 있는 IPC보다 전력을 아끼고 팬 없이 운영합니다. 자동차 부품 기업이 브레이크 디스크 치수를 측정하는 경우를 가정해 보겠습니다. 3D 비전과 AI 칩을 라인 옆에 통합하고 FPGA가 카메라 트리거와 포인트 클라우드 전처리를 담당하며 NPU가 분할 모델을 실행해 프레스 라인 택트를 따라갑니다. 로봇 유도도 있습니다. 이벤트 카메라와 뉴로모픽 센서가 저전력 AI 칩과 함께 동작해 변화한 픽셀만 전송하므로 데이터량이 적고 픽킹 택트가 빠릅니다. 이런 솔루션은 총 3,200개 이상의 단말을 커버했고 15개 이상 산업에서 120곳이 넘는 고객이 라인 측에 유사한 아키텍처를 구축했습니다.
4. 선정 기준과 구축 권장 사항
먼저 작업 유형을 정의합니다. 학습에는 GPU, 고정 모델 추론에는 NPU, 다중 프로토콜 저지연에는 FPGA를 선택합니다. 다음으로 전력과 냉각을 봅니다. 라인 옆 위치는 보통 팬이 없으므로 NPU와 저전력 FPGA가 더 잘 맞습니다. 셋째로 소프트웨어 스택을 봅니다. GPU 생태계가 가장 성숙하고 NPU는 벤더 툴체인에 의존하며 FPGA는 개발 장벽이 가장 높지만 유연성도 가장 큽니다. 넷째로 수명 주기를 봅니다. 공장 설비는 5~8년간 운영되므로 공급이 안정적인 모델을 선택해야 합니다. 구축 시 모든 것을 한 번에 하려 하지 말고 단일 라인에서 NPU 박스로 검증한 뒤 수평으로 복제합니다. 오래된 라인을 개조할 때는 기존 PLC와 카메라를 교체하지 않도록 FPGA를 우선합니다.
5. 기술 트렌드와 향후 전망
2026년 이후 3nm와 HBM4가 학습 칩의 전력 효율을 한 단계 더 끌어올리고, 엣지는 로컬 대형 모델 추론으로 나아가 Jetson Thor 같은 플랫폼이 라인 옆에서 멀티모달 모델을 실행하게 합니다. AI 센서와 칩의 융합도 빨라져 이벤트 카메라와 뉴로모픽 센서가 특징을 직접 출력해 백엔드 연산 부하를 줄입니다. 개방형 생태계도 변수입니다. Intel Gaudi 4와 AMD MI400이 모두 개방형 소프트웨어 스택을 추진하므로 공장이 한 벤더에 묶일 필요가 없습니다. 공장에게 향후 2~3년 가장 실용적인 변화는 추론 박스가 작아지고 FPGA와 NPU의 경계가 흐려지며, 선정이 어떤 칩을 살지에서 어떤 작업 조합을 고를지로 옮겨간다는 것입니다.