AI 보조 진단 일체형 시스템의 하드웨어 구성은 의료 영상과 임상 데이터 추론 작업을 위해 설계된 이기종 컴퓨팅 플랫폼을 중심으로 하며, 보통 GPU 또는 NPU 추론 가속 카드, 멀티코어 서버급 CPU, 대용량 메모리와 고속 스토리지, 의료용 디스플레이 및 획득 인터페이스로 구성되고, 동시에 의료 기기 전기 안전과 전자기 적합성 요구사항을 충족해야 한다. 일체형 시스템의 실제 사용성을 결정하는 것은 단일 컴퓨팅 피크가 아니라, 컴퓨팅 유형이 진단 모델과 맞는지, 메모리 대역폭이 대용량 영상을 뒷받침하는지, 그리고 진료실이나 장비실에서 기기 전체가 방열과 안정성을 어떻게 처리하는지다.
1. AI 보조 진단 일체형 시스템이 해결하는 문제
이전에는 PACS 서버, 알고리즘 워크스테이션, 의사 단말에 흩어져 있던 추론 체인을 하나의 장비로 압축한다. 대표적인 작업은 폐 결절 스크리닝, 안저 영상의 당뇨망막병증 등급 판정, 관상동맥 석회화 점수 산출, 골절 검출, 병리 슬라이드 1차 스크리닝이며, 입력은 CT 또는 MR DICOM 시리즈나 디지털 병리 WSI 대용량 영상이고 출력은 신뢰도 수준을 포함한 병변 표시와 구조화 보고서다.
AI 모델을 실행하는 범용 서버와 달리 일체형 시스템은 세 가지 특수 워크로드를 처리해야 한다. 첫째, 단일 건의 영상 데이터 양이 많아 얇은 절편 흉부 CT 한 건이 수백 MB에 이르므로 메모리 용량과 GPU 메모리 대역폭에 높은 요구가 걸린다. 둘째, 추론이 임상적으로 허용되는 시간 안에 완료되어야 하며 보통 단일 건을 수십 초 이내로 유지한다. 셋째, DICOM, HL7 v2, FHIR 같은 프로토콜에 따라 병원의 기존 PACS, HIS, RIS와 연동해야 한다. 따라서 하드웨어 구성의 첫 원칙은 피크 TOPS로 등급을 정하는 것이 아니라 모델에 따라 컴퓨팅을 정하는 것이다.
2. 추론 가속 카드 선택과 GPU와 NPU의 차이
오늘날 일체형 시스템의 가속 옵션은 대략 세 등급으로 나뉜다. 첫째는 대용량 HBM을 갖춘 데이터센터급 GPU 추론 카드로, 멀티모달 대형 모델, 고해상도 3D 영상 재구성, 병리 대용량 영상 추론에 적합하다. GPU 메모리 대역폭이 핵심 지표이며, HBM3E 세대 제품은 카드당 메모리를 300 GB 부근까지 끌어올려 타일링 없이 한 건 전체를 적재할 수 있다. 둘째는 엣지 추론 가속 카드나 NPU 플랫폼으로, 전력이 낮고 크기가 작아 진료실 책상에 놓는 경량 일체형 기기에 적합하며 안저 컬러 사진 등급 판정이나 흉부 X선 1차 스크리닝 같은 단일 질환 스크리닝 모델을 실행한다. 셋째는 NPU를 통합한 임베디드 플랫폼으로, 휴대용 초음파와 실시간 내시경 보조처럼 저지연 시나리오에 쓰인다.
산업 동향을 보면, NVIDIA의 Blackwell Ultra와 후속 Rubin 로드맵은 추론 성능과 HBM4 메모리에 무게를 두고, AMD의 MI350 시리즈는 3 nm 공정과 288 GB HBM3E로 대규모 추론을 겨냥하며, Intel은 Gaudi 3로 비용 효율적 추론에 집중하면서 Core Ultra로 엣지 AI PC를 밀고 있다. 일체형 시스템 벤더에게 이는 2025년에서 2026년 선정 구간에서 중고급 모델은 대용량 HBM 옵션을 우선할 수 있고, 중저급과 데스크톱 모델은 저전력 NPU 플랫폼으로 기울인다는 뜻이다. 한 가지 유의할 점은 메모리 용량이 3D 영상 모델의 실행 가능 여부를 컴퓨팅 수치보다 훨씬 크게 좌우하므로, 조달은 대상 모델의 실측 메모리 사용량을 기준으로 해야 한다.
3. 스마트 헬스케어의 어떤 단계에서 실제로 쓰이는가
상급 종합 병원 영상의학과의 일일 판독량이 많고 응급 야간 근무 인력이 얇은 경우를 가정하자. 일체형 기기는 판독실에 두고 폐 결절과 골절을 우선 처리하여 양성 의심 사례를 대기열 앞으로 보낸다. 이 시나리오는 단일 건 추론 지연과 DICOM 연동 안정성에 가장 높은 요구를 건다. 군 의료 공동체의 일차 진료 의원에 전담 영상의가 없는 경우를 가정하자. 기기는 흉부 X선 1차 스크리닝과 안저 검진을 처리하고 의심 사례를 상급 병원으로 올려 검토를 받는다. 이런 시나리오는 기기 크기, 소음, 정전 후 복구를 더 중요하게 보며 컴퓨팅 요구는 상대적으로 중간 수준이다.
디지털 슬라이드 스캐너로 WSI 대용량 영상을 생산하는 제3자 병리 진단 센터에서 일체형 기기가 암세포 영역 1차 스크리닝을 수행하는 경우도 가정해 보자. 여기서 병목은 스토리지 대역폭과 GPU 메모리 용량이며, 슬라이드 한 장이 쉽게 GB 수준에 이르므로 NVMe 솔리드스테이트 어레이와 대용량 메모리 가속 카드를 조합해야 한다. 내분비과의 안저 카메라와 연동된 건강검진 센터 시나리오도 있다. 기기가 획득 인터페이스로 카메라에 직접 연결되어 현장에서 보고서를 출력하며, 이런 배포는 인터페이스 수와 전자기 적합성에 더 민감하다.
4. 배포와 선정에서 반드시 봐야 할 핵심 지표
가장 자주 나오는 첫 질문은 메모리와 GPU 메모리를 어떻게 산정하는지다. 경험칙으로 GPU 메모리 용량은 최소한 대상 모델 가중치와 단일 건 입력 텐서의 1.5배를 감당해야 하고, 3D 영상 모델은 카드당 수십 GB의 GPU 메모리가 권장되며, 시스템 메모리는 GPU 메모리의 1.5에서 2배 이상으로 두어 데이터 이동이 병목이 되지 않게 해야 한다.
둘째는 스토리지와 읽기·쓰기 대역폭이다. 원본 영상 데이터, 중간 추론 결과, 보고서 아카이브가 모두 로컬에 저장되므로 시스템 디스크는 NVMe SSD, 데이터 디스크는 RAID 보호를 갖춰야 하며, 순차 읽기·쓰기 대역폭이 단일 건 로딩 시간 예산에 맞아야 한다.
셋째는 인터페이스와 프로토콜 호환성이다. 기기는 DICOM C-STORE와 C-FIND, 그리고 HL7 인터페이스를 제공해야 하며, 영상 획득 측에서는 SDI, HDMI, Camera Link가 흔하고 초음파와 내시경 장비는 독자 획득 프로토콜도 포함한다. 선정 시에는 규격서만 보지 말고 사용 중인 PACS를 기준으로 한 공동 시운전 점검표를 벤더에 요구해야 한다.
넷째는 전기 안전과 환경이다. 의료 기기는 IEC 60601-1 의료용 전기 안전과 IEC 60601-1-2 전자기 적합성 요구사항을 준수해야 하며, 진료실 배포는 기기 소음과 냉각 기류 경로도 고려해야 하고, 데스크톱 모델은 저소음 수준을 유지하고 랙 모델은 장비실 흡입 공기 온도 한계를 확인해야 한다.
다섯째는 구현 주기와 검증 단계다. 보통 현장 조사, PACS 연동 시운전, 후향 데이터 검증, 임상 시험의 네 단계로 진행된다. 후향 검증 단계에서는 병원의 과거 사례를 실행해 민감도와 특이도를 확인하고, 병원 자체 장비와 스캔 파라미터에서 모델이 어떻게 동작하는지 확정해야 하며 이 단계는 생략할 수 없다.
비용 구조 측면에서 가속 카드와 GPU 메모리가 기기 원가의 큰 부분을 차지하고 그다음이 스토리지와 의료용 디스플레이이며, 소프트웨어 라이선스와 통합 서비스는 별도로 계산한다. 조달 평가에는 3년 운영 유지보수와 모델 업그레이드 비용을 포함해야 한다.
5. 이 일체형 시스템이 적합한 시나리오와 그렇지 않은 시나리오
적합한 시나리오는 영상의학과와 건강검진 센터의 단일 질환 또는 소수 질환 스크리닝, 일차 의료기관의 전단 스크리닝과 원격 검토, 병리 센터의 WSI 1차 스크리닝, 초음파와 내시경의 실시간 보조 안내다. 이 시나리오들의 공통점은 작업 경계가 명확하고 모델이 비교적 고정되어 있으며 단일 건 데이터를 통째로 적재할 수 있다는 점이다.
부적합한 시나리오는 서로 다른 양상의 여러 대형 모델을 자주 전환해야 하는 연구 플랫폼으로, 일체형 기기보다 중앙 GPU 클러스터에 적합하다. 스캔 프로토콜 편차가 크고 유입 영상 품질이 불안정한 일차 현장은 모델 일반화가 떨어져 데이터 품질 관리가 우선되어야 한다. 밀리초 수준 실시간 성능이 필요한 수술 중 내비게이션은 일반 일체형 기기의 추론 체인으로 충분히 빠르지 않아 전용 실시간 플랫폼이 필요하다. 또한 금속 인공물이 강한 CT와 극저선량 노이즈 영상은 모델 성능을 별도로 평가해야 하며 벤더의 공칭 지표를 그대로 적용할 수 없다.
ERP 시대부터 수십 년에 걸쳐 구축되어 120만 고객과 수천만 대 단말 배포를 지원해 온 산업 경험은 한 가지를 보여 준다. 의료 AI 하드웨어의 성공은 컴퓨팅 피크보다 임상 워크플로에 얼마나 잘 맞고 장기간 얼마나 안정적으로 운영되는지에 달려 있다는 점이다. 선정에서는 모델 실측, 프로토콜 시운전, 안전 규정 준수라는 세 가지를 견실히 수행하는 것이 새로운 아키텍처를 쫓는 것보다 실용적이다.