지식 센터
목차

공장 AI 칩 선정: GPU, NPU, FPGA

공장 AI 칩 선정에 보편적인 정답은 없다. 중요한 것은 작업이 학습, 추론, 초저지연 제어 중 무엇인지다. GPU는 고처리량 병렬 연산에 적합하고, NPU는 고정 모델 추론에서 에너지 효율이 가장 높으며, FPGA는 가변 프로토콜과 마이크로초 수준 응답에서 뛰어나다. 공장에서 이 셋은 서로의 대체재가 아니며 분업과 공존이 더 일반적이다.

1. 핵심 개념과 기술 원리

GPU는 원래 그래픽 렌더링을 위해 설계되었고 핵심 강점은 방대한 수의 병렬 연산 유닛이다. 2025년 NVIDIA는 Blackwell Ultra와 Rubin 아키텍처 로드맵을 추진하며 추론 성능에 초점을 두고 HBM4 메모리를 도입하면서 연 단위 반복 주기로 전환했다. AMD의 Instinct MI350/MI400 시리즈는 CDNA4 아키텍처와 3nm 공정을 기반으로 고급 학습과 추론 시장을 직접 겨냥한다. Intel은 Gaudi 3와 이후 Falcon Shores 아키텍처를 추진하며 개방형 생태계와 가격 대비 성능을 강조한다. 공장에서 이 칩들은 주로 비전 검사 모델 학습, 다채널 HD 영상 분석, 대규모 결함 검지 추론을 처리한다.

NPU는 신경망 추론을 위해 특별히 설계된 온칩 가속 엔진이다. 오늘날 AI PC와 산업용 엣지 박스는 흔히 40~60 TOPS급 NPU를 탑재해 로컬에서 경량 대형 모델을 실행할 수 있다. 특징은 저전력, 안정적인 지연, 통제 가능한 비용이다. 한 전자 공장은 라인 측에 NPU 기반 엣지 박스를 배치해 PCB 솔더 조인트 결함 인식을 수행했고, 장치당 15W 이내로 팬 냉각 없이 제어 캐비닛에 직접 장착했다.

FPGA는 로직 셀을 반복해서 재프로그래밍할 수 있는 현장 프로그래머블 게이트 어레이다. 공장에서는 고속 I/O 제어, 다축 모션 동기화, 프로토콜 변환 게이트웨이에 자주 등장한다. 자동차 부품 기업이 프레스 라인에서 마이크로초 수준 비상 정지 응답을 요구한다고 가정하면, GPU와 NPU의 스케줄링 지연은 충분히 안정적이지 않지만 FPGA 하드 로직은 결정론적 응답을 제공한다. AI 센서 방향에서도 FPGA가 융합되고 있다. 예를 들어 이벤트 카메라가 로봇 장애물 회피를 위해 밀리미터파 레이더와 협동할 때 FPGA가 프런트엔드에서 픽셀 수준 전처리를 담당한다.

2. 주요 제품과 솔루션 비교

학습 시나리오에서는 GPU를 본다. NVIDIA의 Blackwell Ultra와 AMD의 MI350 시리즈 모두 대형 모델 학습을 겨냥하며 HBM4 메모리 대역폭은 이전 세대의 두 배가 넘는다. Intel Gaudi 3는 가격 대비 성능과 개방형 생태계에서 우위가 있어 예산에 민감하고 단일 생태계에 묶이기를 원하지 않는 공장에 적합하다.

추론 시나리오에서는 NPU가 더 경제적이다. 차량 내 AI와 산업용 엣지 박스는 대부분 NPU로 로컬 추론을 수행하며 40 TOPS면 7B 파라미터 모델을 실행하기에 충분하다. 한 가전 공장은 조립 라인 말단에 NPU 박스를 사용해 외관 검사를 수행하고 있으며, 모델이 고정되면 추론 전력이 GPU 솔루션의 10분의 1에 불과하다.

초저지연과 가변 프로토콜 시나리오에서는 FPGA가 대체 불가능하다. FPGA는 명령어 집합 오버헤드가 없어 신호 입력에서 출력까지 경로가 나노초 수준에 도달할 수 있다. 단점은 개발 장벽이 높아 하드웨어 엔지니어가 RTL 코드를 작성해야 하고 모델 반복이 GPU와 NPU보다 불편하다는 점이다.

3. 공장 AI 하드웨어의 전형적 응용 시나리오

비전 검사는 GPU와 NPU의 주된 전장이다. 고해상도 산업용 카메라는 초당 수 GB의 이미지 데이터를 생성하므로 GPU는 배치 추론에서 높은 처리량을 제공하고, NPU는 단일 스테이션의 고정 모델 추론에서 전력 효율이 더 좋다.

예지 보전은 대부분 NPU와 센서 융합을 사용한다. 진동, 온도, 전류 신호를 엣지의 NPU로 이상 검지에 활용하고 데이터는 공장을 벗어나지 않는다.

모션 제어와 안전 비상 정지는 반드시 FPGA를 사용한다. 다축 동기화는 마이크로초 수준 지터를 요구하고 FPGA 하드 로직이 결정론적 지연을 제공한다. AI 센서가 이벤트 카메라와 밀리미터파 레이더를 융합할 때 FPGA가 프런트엔드 픽셀 수준 전처리를 담당한다.

4. 선정 기준과 배치 권장 사항

먼저 작업이 학습인지 추론인지 구분한다. 학습에는 GPU를 선택하고, 추론에는 NPU를 우선하며, 초저지연 제어에는 FPGA를 선택한다.

다음으로 모델이 고정되었는지 확인한다. 모델 반복이 잦으면 소프트웨어 스택을 갖춘 GPU나 NPU를 사용하고, 모델이 확정되면 FPGA 하드닝 가속을 고려할 수 있다.

전력과 냉각이 배치 형태를 결정한다. 공장 제어 캐비닛의 공간은 제한적이어서 NPU 솔루션은 팬리스가 가능하지만 GPU 솔루션은 보통 전용 덕트가 필요하다.

생태계와 툴체인을 무시할 수 없다. NVIDIA CUDA 생태계가 가장 성숙하고, AMD ROCm이 따라붙고 있으며, Intel oneAPI는 아키텍처 간 지원을 강조하고, FPGA는 벤더가 HLS 상위 합성 도구를 제공해야 한다.

15개 이상 산업에서 120여 고객을 서비스하면서 벤더는 공장 AI 하드웨어 선정에서 가장 흔한 실수가 연산 성능만 맹목적으로 좇는 것이며 결국 전력과 냉각 비용이 예상을 크게 넘어선다는 점을 확인했다. 3,200여 배치 단말의 경험은 엣지 추론 시나리오에서 NPU의 에너지 효율 우위가 가장 뚜렷함을 보여준다.

5. 기술 동향과 전망

GPU는 연 단위 반복과 HBM4 메모리로 진화하고 있으며 추론 성능이 새로운 초점이 되고 있다. NPU는 40~60 TOPS 수준으로 보급되어 AI PC와 산업용 엣지 박스가 로컬 대형 모델 추론을 기본으로 탑재하게 될 것이다. FPGA는 뉴로모픽 컴퓨팅과 융합하고 있고, 이벤트 카메라와 밀리미터파 레이더가 산업 검사, 로보틱스, 자율주행에서 저지연 인지를 달성하고 있다. 세 가지 칩 유형은 공장에서 오랫동안 공존할 것이며, 선정 논리는 어느 것이 가장 강한가에서 어느 것이 작업에 가장 잘 맞는가로 이동한다.

주제: AI 하드웨어 백과