산업용 Agent에서 RAG의 핵심 역할은 공정 문서, 설비 매뉴얼, 과거 작업 지시, 검사 기록처럼 잠자고 있는 기업 자료를 Agent가 실시간으로 호출할 수 있는 외부 지식 기반으로 바꾸어, Agent가 학습 중에 대형 모델이 암기한 일반 지식에만 의존하지 않고 답변과 지시에 근거를 갖게 하는 것입니다. 간단히 말하면 산업 현장에서 모델이 당신의 생산 라인을 이해하지 못한다는 문제를 해결합니다. RAG가 없는 산업용 Agent는 자신감 넘치는 헛소리를 내기 쉽고, RAG가 연결되면 답변이 특정 설비 모델, 특정 조작 파라미터, 특정 안전 절차에 착지합니다.
1. RAG가 산업용 Agent에게 실제로 해결하는 문제
대형 모델에는 산업 시나리오에서 치명적인 세 가지 결함이 있습니다. 첫째, 지식에 기준 시점이 있어 지난달에 개정한 작업 지시서를 알 수 없습니다. 둘째, 기업 사설 데이터가 없습니다. 같은 실장기라도 공장마다 파라미터 창이 크게 다릅니다. 셋째, 환각이 쉽습니다. 특정 서보 드라이브 모델의 과부하 보호 임계값을 물으면 그럴듯한 숫자를 지어낼 수 있습니다.
RAG는 모델 외부에 검색 가능한 지식 기반을 붙입니다. Agent가 질문을 받으면 먼저 자료를 조회하고, 회수한 구절을 질문과 함께 모델에 넘겨 답변을 작성하게 합니다. 그러면 출력에 출처가 있고 추적 가능하며, 엔지니어가 클릭해 어느 문서의 어느 페이지에서 왔는지 볼 수 있습니다. 산업용 Agent에게 이것은 있으면 좋은 부가 기능이 아니라 생산 투입 가능과 불가능을 가르는 경계입니다.
2. RAG의 기술 원리와 핵심 역량
완전한 사슬은 보통 네 단계입니다. 문서 파싱과 분할, 벡터화와 인덱싱, 검색과 회수, 재순위와 생성입니다. 산업 시나리오의 어려움은 앞 두 단계에 집중됩니다.
문서 파싱에서 공장 자료 형식은 극히 지저분합니다. PDF 도면, 스캔한 작업 지시서, Excel 파라미터 표, Word 공정 카드, 심지어 종이 검사표 사진까지 있습니다. 스캔본은 먼저 OCR을 거쳐야 하고, 표는 행과 열 구조를 유지해야 하며, 도면의 주석 영역은 별도로 처리해야 합니다. 분할 전략도 일률적인 글자 수 청킹이 될 수 없습니다. 공정 문서는 공정 절별로, 설비 매뉴얼은 고장 코드 항목별로 나누는 것이 큰 차이를 만듭니다.
벡터화 후에는 보통 하이브리드 검색이 필요합니다. 즉 벡터 유사도와 키워드 BM25를 함께 사용합니다. 이유는 실용적입니다. 산업에는 고유 명사와 모델 코드가 많습니다. 예를 들어 IPC-A-610 Class 3, OPC-UA, 사내 자재 코드 같은 것은 순수 벡터 검색이 놓치기 쉽고 키워드가 잡아냅니다.
핵심 역량 측면에서는 몇 가지 검증 가능한 지점을 봐야 합니다. 검색 재현율이 고빈도 질문을 포괄하는지, 설비 모델, 라인, 문서 버전별 메타데이터 필터링을 지원하는지, 인용을 제공하는지, 문서 갱신 후 인덱스가 얼마나 빨리 반영되는지입니다. 업계의 흔한 관행은 증분 인덱싱으로 수 분에서 수 시간 내 반영이며, 문서 양과 배포 모델에 따라 달라집니다.
3. 제조 현장의 대표적인 적용 시나리오
SMT 라인이 있는 전자 공장에서 Agent가 설비 수리 조수 역할을 하는 경우를 가정해 봅시다. 라인의 실장기가 알람을 울리면 작업자가 증상을 자연어로 설명하고, Agent는 RAG로 해당 설비 모델의 고장 코드 매뉴얼, 과거 수리 작업 지시, 공장 정비 절차를 검색한 뒤 트러블슈팅 단계를 제시합니다. 여기서 핵심은 메타데이터 필터링이 작동해야 한다는 것입니다. 다른 실장기 모델의 처리 방법을 작업자에게 푸시해서는 안 됩니다.
자동차 부품 회사가 공정 질의응답과 신입 교육을 하는 경우를 하나 더 가정해 봅시다. 신입 직원이 이 용접 스테이션의 예열 온도 범위를 물으면, Agent는 현재 유효한 버전의 공정 문서를 검색해 답하고 문서 번호와 버전을 붙입니다. 문서가 개정되면 이전 답변은 자동으로 만료되며, 벽에 붙은 종이 공정 카드보다 신뢰할 만합니다.
또 다른 시나리오는 품질 예외 분석 지원입니다. 검사원이 결함 설명을 입력하면 Agent는 과거 8D 보고서와 부적합품 처리 기록을 검색해 유사 사례를 참고용으로 찾습니다. 이런 시나리오는 회수 정확도 요구가 높고, 보통 동일 제품군과 동일 공정으로 검색을 제한해야 하며, 그렇지 않으면 반환된 사례의 참고 가치가 낮습니다.
4. RAG 기반 산업용 Agent 구현 시 주의할 점
첫 번째로 자주 나오는 질문은 지식 기반이 기존 시스템과 어떻게 통합되는가입니다. 흔한 접근은 PLM, MES, 문서 관리 시스템의 파일을 API나 예약 작업으로 동기화하는 것이며, 수동 업로드와 유지보수는 버전이 빠르게 혼란해지므로 권장되지 않습니다. 실시간 설비 데이터는 OPC-UA나 MQTT를 통해 시계열 데이터베이스로 들어가며, 이는 별도 링크이므로 문서 RAG와 섞어서는 안 됩니다.
두 번째는 하드웨어 구성입니다. 수천에서 수만 문서 규모의 중소 지식 기반이라면 GPU가 있는 단일 서버로 추론과 벡터 저장소를 모두 처리할 수 있습니다. 대형 모델을 온프레미스로 배포하면 메모리 요구가 파라미터 수에 달려 있으며, 산업 질의응답에는 7B에서 14B 범위 모델이 흔합니다. 구체적 구성은 동시성과 응답 시간 요구에서 역산해야 하며 추측해서는 안 됩니다.
세 번째는 구현 주기입니다. 지식 기반 구조화와 문서 정리가 종종 시간의 대부분을 차지하며, 이 작업량은 쉽게 과소평가됩니다. 문서 형식이 다양하고 과거 버전이 많을수록 주기가 길어집니다.
네 번째 흔한 실수는 RAG를 연결하면 오답이 사라진다고 가정하는 것입니다. 검색이 아무것도 찾지 못할 때 모델은 여전히 즉흥적으로 답할 수 있으므로, 프롬프트에서 검색 결과가 없으면 모른다고 명확히 말하도록 제약하고 수동 검토 진입점을 남겨야 합니다.
5. 어떤 시나리오가 RAG 기반 산업용 Agent에 적합하고 어떤 것이 적합하지 않은가
적합한 시나리오는 몇 가지 특징을 공유합니다. 지식이 문서 형태로 존재하고 갱신 빈도를 통제할 수 있으며, 질문의 답변 경계가 비교적 명확하고, 오답 비용이 커서 추적성이 필요한 경우입니다. 설비 수리 지원, 공정 파라미터 조회, 안전 절차 질의응답, 신입 교육, 품질 사례 검색이 여기에 속합니다.
부적합한 경우도 분명히 밝혀야 합니다. 강한 실시간 제어 작업은 맞지 않습니다. Agent에게 폐쇄 루프 제어 파라미터 조정을 요구하면 RAG는 지식을 제공할 뿐 제어 명령을 제공하지 않으며, 이런 작업은 규칙 엔진이나 전용 제어 알고리즘을 거쳐야 합니다. 순수 수치 계산과 시뮬레이션도 맞지 않습니다. CAE가 필요하면 CAE를 쓰면 됩니다. 또한 기업의 공정 지식이 대부분 숙련자의 머릿속에 있고 문서 축적이 거의 없다면, RAG를 배포하기보다 그 축적을 먼저 만드는 것이 더 현실적입니다.
한 가지 더. 입고 자재 일관성이 나쁘고 택트 변동이 큰 시나리오에서는 지식 검색이 도움이 되지만 근본 문제를 해결하지 못하므로, 질의응답 Agent가 공정 안정성 문제까지 해결해 주기를 기대해서는 안 됩니다.
ERP 시대부터 수십 년간 현장에서 일해 온 벤더들, 즉 120만 고객에게 서비스하고 국내외 시장에 수천만 단말을 배치한 벤더들은 Agent와 기존 산업 소프트웨어 시스템 연결에 경험을 축적하고 있지만, 선정 단계에서는 여전히 자사의 가장 지저분한 문서 묶음으로 회수 성능을 시험해야 하며, 그것이 어떤 데모를 보는 것보다 유용합니다.