지식 센터
목차

공장 AI 칩 선택: GPU, NPU, FPGA

공장의 AI 칩 선택에는 단일 정답이 없으며, 핵심은 공정 택트, 환경 조건, 알고리즘 반복 빈도입니다. GPU는 학습과 고처리량 추론에 적합하고, NPU는 저전력 엣지 시나리오의 가성비에서 두드러지며, FPGA는 결정적 저지연과 센서 프런트엔드 융합에서 강합니다. 세 가지는 대체재가 아니라 생산 라인 작업별로 계층화해 배치하는 것입니다.

1. GPU, NPU, FPGA가 각각 해결하는 것

GPU의 핵심 강점은 병렬 부동소수점 연산과 큰 메모리 대역폭입니다. NVIDIA Blackwell Ultra(GB300)를 예로 들면 추론 성능 향상을 강조하고 대용량 HBM3e 메모리를 탑재해, 여러 고화질 영상 스트림을 처리하고 더 큰 비전 모델을 구동하는 공장 작업, 예를 들어 전 라인 외관 재검사와 다중 스테이션 행동 인식에 적합합니다. CDNA4 아키텍처 기반의 AMD Instinct MI350 시리즈도 학습과 추론 시장을 겨냥해 서버 구축에 두 번째 선택지를 제공합니다. 이런 칩은 대개 산업용 PC나 엣지 서버에 들어가고 수백 와트를 소비하며 팬이나 액체 냉각이 필요합니다.

NPU는 SoC에 통합된 신경망 전용 유닛으로, Qualcomm과 MediaTek이 지난 2년간 출시한 고연산 저전력 엣지 AI SoC가 대표적입니다. 추론 작업을 전용 회로에 고정해 일반적인 비전 분류와 검지 모델에서 높은 에너지 효율을 내며 전력은 수 와트에서 십여 와트로, 공간 제약이 있는 팬리스 엣지 추론 박스나 AI PC 형태의 워크스테이션 단말에 적합합니다. Intel Gaudi 3와 Xeon 6 플랫폼은 기업 서버 측에서 에너지 효율과 AI 추론 배치를 강조하며 데이터센터와 공장 장비실 사이의 연결 계층을 형성합니다.

FPGA 프로그램 가능 논리 배열은 결정적 지연과 센서 프런트엔드 전처리에 적합합니다. 비전, 라이다, 진동을 다루는 산업용 다중 모달 AI 센서는 점점 더 센서 단에 추론 유닛을 내장하고 있으며, FPGA는 여러 신호의 동기 획득, 필터링, 경량 추론에 자주 사용되어 지연을 마이크로초로 낮추고 운영체제 스케줄링의 영향을 받지 않습니다. 단점은 개발 장벽이 높다는 것으로, 알고리즘이 바뀌면 재합성과 재배선이 필요합니다.

2. 세 칩 유형의 핵심 차이를 공장에서 비교하는 방법

연산 밀도에서 GPU 단일 카드는 연산이 가장 높아 집중 추론에 적합하고, NPU는 연산이 중간이지만 와트당 연산이 가장 우수하며, FPGA는 절대 연산은 낮지만 결정적 지연과 유연한 인터페이스에서 이깁니다.

알고리즘 적합성에서 GPU는 Transformer, 대형 모델, 다중 작업 네트워크를 가장 성숙하게 지원합니다. NPU는 벤더 툴체인의 연산자 라이브러리 지원에 의존해 프루닝과 양자화 후에는 원활히 동작하지만 맞춤 연산자에서는 제한될 수 있습니다. FPGA는 고정되고 성숙한 경량 네트워크에 적합하며 알고리즘이 자주 반복되는 경우에는 경제성이 떨어집니다.

배치 형태에서 GPU는 대개 섀시와 전원이 필요한 보드나 박스로 등장하고, NPU는 단말 메인보드에 직접 내장되며, FPGA는 획득 카드, 스마트 카메라, 센서 모듈에 자주 등장합니다.

수명주기 비용에서 GPU는 구매 비용과 전력이 크지만 개발 인건비는 상대적으로 저렴합니다. NPU 하드웨어는 저렴하고 저전력이지만 모델 이식과 양자화 튜닝에 투자가 필요합니다. FPGA 하드웨어는 중간 수준이지만 논리 개발 인력이 가장 비쌉니다. 선정 시에는 3년 안에 알고리즘 반복이 몇 번 일어날지를 반드시 반영해야 합니다.

3. 어떤 공장 작업이 실제로 AI 하드웨어를 필요로 하는가

자동차 부품 회사의 다이캐스팅 공정에서 진동 센서와 엣지 추론으로 예지 보전을 하는 경우를 예로 들면, 센서 단은 FPGA로 여러 진동 신호를 동기 샘플링하고 스펙트럼 특징을 추출하며, 추론 박스는 NPU로 이상 분류 모델을 실행합니다. 밀리초 지연 요구와 제한된 전력 조건이 있어 GPU를 추가하는 것보다 합리적인 조합입니다.

전자 공장의 SMT 후 AOI 재판정 스테이션을 예로 들면, 여러 고화질 카메라가 동시에 촬영하고 결함 유형이 많으며 모델이 크고 분기별로 갱신되므로, 스테이션 옆 소형 GPU 엣지 서버가 더 신뢰성 있고, NPU는 프런트엔드 1차 선별로 명백한 양품을 걸러 GPU 부하를 줄입니다.

다음으로 공장 단위 비전 학습과 모델 배포를 봅시다. 모델 학습과 버전 관리는 공장 장비실의 GPU 서버에 두고, 학습된 양자화 모델을 각 스테이션의 NPU 단말로 배포합니다. 이것이 현재 실용적인 GPU와 NPU 계층형 아키텍처입니다. FPGA는 센서와 획득 프런트엔드에 남아 원본 데이터를 정리한 뒤 상위로 전달합니다.

4. 선정과 구축에서 주의할 점

호환성은 프로토콜에서 시작합니다. 엣지 추론 박스는 라인의 기존 OPC-UA, Modbus TCP, Profinet 게이트웨이에 연결되어야 하며, 그렇지 않으면 데이터가 들어오지 않습니다. 모델 형식에서는 벤더 툴체인이 ONNX나 자사 학습 프레임워크의 내보내기 형식을 지원하는지 확인하고, 연산자 커버리지를 사전에 검증해 구축 단계에서 지원되지 않는 후처리 연산자를 발견하는 일이 없도록 해야 합니다.

성능 지표는 TOPS만 보지 마십시오. 공장 추론은 단일 프레임 지연과 처리량 안정성을 더 중요하게 보므로, 배치 크기 1에서의 실측 지연과 72시간 연속 운전 시의 전력 및 온도 거동을 명확히 물어야 합니다. 환경 요구 사항에서 작업장은 40도를 넘는 경우가 많고 먼지와 전자기 간섭이 있으므로, 팬리스 NPU 박스는 스로틀링 전략을, GPU 방안은 외함 보호 등급과 필터 유지보수 주기를 확인해야 합니다.

구현 절차는 단일 스테이션 PoC로 시작해 실제 라인 데이터로 2주간 운영하며 정확도와 택트가 맞는지 검증한 뒤, 일괄 배치를 논하는 것이 좋습니다. 비용 구성에는 하드웨어 외에 모델 양자화 튜닝 인력, 현장 네트워크 개조, 이후 알고리즘 반복의 엔지니어링 공수를 포함해야 하며, 특히 FPGA 방안은 논리 개발 리소스를 확보하고 있는지 평가해야 합니다.

흔한 실수는 학습용 카드를 생산 라인 옆으로 그대로 옮기는 것입니다. 학습 카드는 전력과 냉각 요구가 높아 라인 환경이 감당하지 못하는 경우가 많습니다. 또 다른 실수는 NPU가 소형 모델만 돌린다고 가정하는 것인데, 실제로는 양자화된 중간 규모 검지 모델을 엣지 NPU에서 실시간 추론하는 사례가 상당히 흔하며, 툴체인 성숙도가 결정 요인입니다.

5. 적합성 판단: 어떤 시나리오에 무엇을 고르고, 어디에 억지로 맞추지 말아야 하는가

GPU에 적합한 시나리오: 여러 고화질 영상 스트림의 집중 추론, 잦은 모델 갱신, 공장 단위 학습과 추론 일체형 장비입니다. 부적합: 냉각 조건이 없는 단일 스테이션 저전력 개조 프로젝트.

NPU에 적합한 시나리오: 스테이션 단위 비전 검사, 엣지 추론 박스, AI PC 형태의 검사 단말로, 택트가 안정적이고 모델이 양자화되어 검증된 경우입니다. 부적합: 양자화하지 않은 대형 모델이나 고도로 맞춤화된 연산자가 필요한 연구 작업.

FPGA에 적합한 시나리오: 다중 모달 센서 프런트엔드 융합, 마이크로초 결정적 지연, 특수 인터페이스 프로토콜을 쓰는 획득 단계입니다. 부적합: 알고리즘이 아직 빠르게 시행착오 중이거나 논리 개발 역량이 없는 팀.

대부분의 중대형 공장에는 혼합 아키텍처가 적합합니다. 센서 단은 FPGA로 전처리하고, 스테이션은 NPU로 실시간 추론하며, 공장 단위 GPU로 학습과 난이도 높은 사례의 재판정을 처리합니다. 칩 종류를 정하기 전에 각 작업의 지연 상한, 전력 예산, 모델 갱신 빈도를 명확히 하는 것이, 칩을 먼저 고르고 시나리오를 나중에 찾는 것보다 훨씬 신뢰성 있습니다. ERP 시대부터 수십 년간 일해 왔고 120만 고객에게 서비스하며 누적 수천만 대의 단말을 구축한 한 벤더의 산업 경험도, 공장 하드웨어 선정의 성패가 서류상 연산이 아니라 인터페이스와 현장 적응에 달려 있음을 보여 줍니다.

주제: AI 하드웨어 백과