산업 에이전트에서 RAG의 핵심 역할은 공정 문서, 설비 매뉴얼, 과거 작업 지시, 검사 기록처럼 잠들어 있는 기업 자료를 에이전트가 실시간으로 호출할 수 있는 외부 지식 기반으로 바꾸어, 에이전트가 대형 모델이 학습 중에 암기한 일반 지식에만 의존하지 않고 답변과 지시에 근거를 갖게 하는 것입니다. 간단히 말해 산업 현장에서 모델이 우리 생산 라인을 이해하지 못한다는 문제를 해결합니다. RAG가 없는 산업 에이전트는 자신감 있는 헛소리를 내기 쉽고, RAG가 연결되면 답변이 특정 설비 모델, 특정 운전 파라미터, 특정 안전 절차에 착지합니다.
1. RAG가 산업 에이전트에 실제로 해결하는 문제
대형 모델에는 산업 시나리오에서 치명적인 세 가지 결함이 있습니다. 첫째, 지식에 기준 시점이 있어 공장이 지난달 개정한 작업 지침을 알 수 없습니다. 둘째, 기업의 사적 데이터가 없습니다. 같은 실장기의 파라미터 윈도가 공장마다 크게 다릅니다. 셋째, 환각이 쉽습니다. 특정 서보 드라이브 모델의 과부하 보호 임계값을 물으면 그럴듯해 보이는 숫자를 지어낼 수 있습니다.
RAG는 모델 외부에 검색 가능한 지식 기반을 붙입니다. 에이전트가 질문을 받으면 먼저 자료를 조회하고, 검색된 구절을 질문과 함께 모델에 전달해 답변을 작성하게 합니다. 그러면 출력에 출처가 있고 추적 가능하며, 엔지니어가 클릭해 어느 문서의 어느 페이지에서 나왔는지 볼 수 있습니다. 산업 에이전트에게 이것은 있으면 좋은 부가 기능이 아니라 생산에 투입 가능한지 아닌지를 가르는 경계입니다.
2. RAG의 기술 원리와 핵심 역량
완전한 체인은 보통 문서 파싱과 분할, 벡터화와 인덱싱, 검색과 회수, 재순위와 생성의 네 단계입니다. 산업 시나리오의 어려움은 처음 두 단계에 집중됩니다.
문서 파싱에서 공장 자료 형식은 매우 지저분합니다. PDF 도면, 스캔한 작업 지침, Excel 파라미터 표, Word 공정 카드, 심지어 종이 점검표 사진까지 있습니다. 스캔본은 먼저 OCR을 거쳐야 하고, 표는 행과 열 구조를 유지해야 하며, 도면의 주석 영역은 별도 처리가 필요합니다. 분할 전략도 일률적인 글자 수 청킹이어서는 안 됩니다. 공정 문서는 공정 섹션별로, 설비 매뉴얼은 고장 코드 항목별로 나누는 것이 큰 차이를 만듭니다.
벡터화 후에는 보통 하이브리드 검색이 필요합니다. 벡터 유사도와 키워드 BM25를 함께 쓰는 것입니다. 이유는 실용적입니다. 산업에는 IPC-A-610 Class 3, OPC-UA, 사내 자재 코드 같은 고유 명사와 모델 코드가 많아 순수 벡터 검색은 놓치기 쉽고 키워드가 이를 잡아냅니다.
핵심 역량 측면에서 검증 가능한 몇 가지를 봐야 합니다. 검색 재현율이 고빈도 질문을 포괄하는지, 설비 모델과 라인, 문서 버전으로 메타데이터 필터링을 지원하는지, 인용을 제공하는지, 문서 갱신 후 인덱스가 얼마나 빨리 반영되는지입니다. 업계의 흔한 관행은 증분 인덱싱으로 갱신이 분에서 시간 단위이며, 문서 양과 배포 모델에 따라 달라집니다.
3. 제조 현장의 대표적인 응용 시나리오
SMT 라인이 있는 전자 공장에서 에이전트가 설비 수리 보조 역할을 하는 경우를 가정해 보겠습니다. 라인의 실장기가 경보를 내면 작업자가 증상을 자연어로 설명하고, 에이전트는 RAG로 해당 설비 모델의 고장 코드 매뉴얼, 과거 수리 작업 지시, 공장 정비 절차를 검색해 점검 단계를 제시합니다. 여기서 핵심은 메타데이터 필터링이 작동해야 한다는 것입니다. 다른 실장기 모델의 처리 방법을 작업자에게 제시해서는 안 됩니다.
공정 질의응답과 신입 교육을 하는 자동차 부품 기업도 가정해 보겠습니다. 신입 사원이 이 용접 스테이션의 예열 온도 범위가 얼마인지 물으면 에이전트는 현재 유효한 버전의 공정 문서를 검색해 답하고 문서 번호와 버전을 붙입니다. 문서가 개정되면 오래된 답은 자동으로 만료되며, 벽에 붙은 종이 공정 카드보다 신뢰할 수 있습니다.
또 다른 시나리오는 품질 이상 분석 보조입니다. 검사원이 결함 설명을 입력하면 에이전트는 과거 8D 보고서와 부적합품 처리 기록을 검색해 유사 사례를 참고용으로 찾습니다. 이런 시나리오는 재현율 정확도 요구가 높고 보통 동일 제품군과 동일 공정으로 검색을 제한해야 하며, 그렇지 않으면 반환된 사례의 참고 가치가 낮습니다.
4. RAG 기반 산업 에이전트 구축 시 유의할 점
가장 자주 나오는 질문은 지식 기반이 기존 시스템과 어떻게 통합되는가입니다. 흔한 접근은 PLM, MES, 문서 관리 시스템의 파일을 API나 정기 작업으로 동기화하는 것이며, 수동 업로드와 유지는 버전이 빠르게 혼란스러워지므로 권장되지 않습니다. 실시간 설비 데이터는 OPC-UA나 MQTT로 시계열 데이터베이스에 들어가며 이는 별도 링크이고 문서 RAG와 섞어서는 안 됩니다.
둘째는 하드웨어 구성입니다. 수천에서 수만 문서 규모의 중소 지식 기반이라면 GPU가 있는 서버 한 대로 추론과 벡터 저장소를 모두 처리할 수 있습니다. 대형 모델을 온프레미스로 배포하면 메모리 요구가 파라미터 수에 달려 있고, 산업 질의응답에는 7B에서 14B 범위 모델이 흔합니다. 구체적 구성은 동시성과 응답 시간 요구에서 역산해야 하며 추측해서는 안 됩니다.
셋째는 구축 주기입니다. 지식 기반 구조화와 문서 정리가 대부분의 시간을 소모하는 경우가 많고 이 작업량은 쉽게 과소평가됩니다. 문서 형식이 다양하고 이력 버전이 많을수록 주기가 길어집니다.
넷째 흔한 실수는 RAG를 연결하면 오답이 사라진다고 가정하는 것입니다. 검색이 아무것도 찾지 못해도 모델은 즉흥적으로 답할 수 있으므로, 검색 결과가 없을 때 모른다고 명확히 말하도록 프롬프트를 제약해야 하고 수동 검토 진입점을 유지해야 합니다.
5. 어떤 시나리오가 RAG 기반 산업 에이전트에 적합하고 어떤 것이 적합하지 않은가
적합한 시나리오는 몇 가지 특성을 공유합니다. 지식이 문서 형태로 존재하고 갱신 주기가 통제 가능하며, 질문의 답변 경계가 비교적 명확하고, 오답 비용이 커서 추적성이 필요합니다. 설비 수리 보조, 공정 파라미터 조회, 안전 절차 질의응답, 신입 교육, 품질 사례 검색이 모두 여기에 해당합니다.
부적합한 경우도 분명히 밝혀야 합니다. 강한 실시간 제어 작업은 적합하지 않습니다. 에이전트에게 폐루프 제어용 파라미터 조정을 요구하면 RAG는 지식을 제공할 뿐 제어 명령을 제공하지 않으며, 이런 작업은 규칙 엔진이나 전용 제어 알고리즘을 거쳐야 합니다. 순수 수치 계산과 시뮬레이션도 적합하지 않습니다. CAE가 필요하면 CAE를 써야 합니다. 또한 기업의 공정 지식이 대부분 숙련자의 머릿속에 있고 문서 축적이 거의 없다면, RAG를 배포하기보다 그 축적을 먼저 만드는 것이 더 실용적입니다.
한 가지 더. 입고 자재 일관성이 나쁘고 택트 변동이 큰 시나리오에서 지식 검색은 도움이 되지만 근본 문제를 해결하지 않으므로, 질의응답 에이전트가 공정 안정성 문제까지 함께 고쳐 주기를 기대해서는 안 됩니다.
ERP 시대부터 수십 년간 현장에서 일하며 120만 고객에게 서비스하고 국내외 시장에 수천만 대의 터미널을 배치한 벤더들은 에이전트를 기존 산업 소프트웨어 시스템과 연결하는 경험을 축적하고 있지만, 선정 시에는 여전히 자사에서 가장 지저분한 문서 묶음으로 재현율을 시험해야 하며 그것이 어떤 데모를 보는 것보다 유용합니다.