산업용 에이전트에서 RAG의 핵심 역할은 대형 모델에 공장 문서와 설비 매뉴얼을 조회할 수 있는 외부 지식 베이스를 제공하여, 에이전트가 학습 때 외운 것만으로 답하지 않고 기업 자체의 SOP, 알람 코드 라이브러리, 수리 기록, 공정 파라미터를 실시간으로 검색해 검색한 내용으로 답변을 생성하게 하는 것이다. 쉽게 말해 산업 시나리오는 오류 허용도가 낮아 대형 모델이 토크 값이나 알람 처리 단계를 한 번 지어내면 가벼우면 라인 정지, 무거우면 안전 사고로 이어지며 RAG는 그 환각을 억제하기 위해 존재한다. 이 조합은 현재 설비 수리 보조, 검사 기준 조회, 라인 전환 안내라는 세 가지 작업 유형에서 비교적 성숙했다.
1. RAG가 산업용 에이전트에서 해결하는 문제
산업용 에이전트가 일을 하려면 추론 능력만으로는 부족하고 근거가 필요하다. 대형 모델의 파라미터에는 일반 지식이 담겨 있지만 특정 마운터의 알람 코드 E-2047이 무슨 뜻인지, 특정 라인 토크 건의 캘리브레이션 주기가 얼마인지는 설비 매뉴얼, 검사 시트, 숙련자의 수첩에만 존재한다. RAG는 이 문서를 잘라 벡터화해 검색 저장소에 넣고, 질문이 오면 먼저 검색하고 다음에 답하며 출처를 인용한다.
Fine-tuning과의 차이는 Fine-tuning이 지식을 모델 가중치에 절여 넣어 갱신이 느리고 비싼 반면, RAG는 외부 검색이라 문서를 바꾸면 재색인만 하면 된다는 점이다. 현장 공정 문서는 개정이 잦으므로 RAG의 유지 비용이 확실히 낮다. 또 하나의 실무적 가치는 추적성으로, 검색된 조각을 엔지니어에게 그대로 보여 줄 수 있고 잘못된 답은 낡은 문서나 검색 실패로 소급할 수 있다.
2. RAG의 기술 원리와 핵심 역량
체인은 문서 파싱과 청킹, 벡터 검색, 검색 증강 생성의 세 단계다. 산업 시나리오에서는 어려움이 첫 단계와 세 번째 단계에 집중된다.
문서 파싱에서 공장 자료는 형식이 매우 혼재한다. 스캔 PDF, Excel 검사 시트, Word 공정 카드, 심지어 종이 도면 사진까지 있다. OCR과 레이아웃 분석으로 표와 혼합된 문자 및 그림을 깔끔히 분리해야 하며, 표 내용을 고정 글자 수로 자르면 파라미터 행이 반 토막 나 검색이 불완전한 결과를 돌려주기 쉽다. 실제 구축에서는 보통 의미 단락 단위로 자르고 표는 별도 구조화 파싱으로 추출하며 청크 크기는 흔히 300에서 500자 사이로 유지한다.
검색에서 순수 벡터 검색은 E-2047 같은 정밀 코드에 불리한데, 벡터 유사도는 E-2047과 E-2041을 쉽게 혼동한다. 산업 시나리오는 일반적으로 하이브리드 검색을 쓰며 벡터 리콜에 BM25 키워드 가중치를 결합하고 코드, 모델 번호, 표준 번호 같은 엔티티는 정확 매칭을 적용한다. 이후 리랭킹 모델로 리콜 결과를 정제해 실제 관련 조각이 상위로 올라오게 한다.
생성에서 핵심 제약은 검색된 내용으로만 답하는 것이다. 공학적으로 Prompt에 검색 조각에 없는 정보는 문서에서 찾을 수 없다고 명시적으로 답해야 하며 자기 완성을 허용하지 않는다고 적는다. 안전 조작, 토크 값, 온도 임계값이 관련된 답변에는 규칙 검증 계층을 추가해 공정 문서의 범위를 벗어난 값은 차단한다.
3. 제조의 대표 RAG 적용 시나리오
자동차 부품 업체의 가공 공장을 보자. CNC 설비가 알람을 낸 뒤 작업자가 스테이션 단말에서 에이전트에게 스핀들 과열 알람 처리 방법을 묻는다. 에이전트는 해당 모델의 수리 매뉴얼과 공장의 과거 수리 오더를 검색해 단계별 처리 절차를 돌려주고 매뉴얼 페이지와 유사 작업 지시 번호를 인용한다. 여기서 RAG의 가치는 설비 매뉴얼, 벤더 교육 자료, 숙련자 대화 기록에 흩어진 처리 경험을 한곳에 모으는 것이다.
전자 공장의 SMT 전환에서 작업자가 A형에서 B형으로 바꿀 때 스텐실과 스퀴지를 교체해야 하는지 묻는다. 에이전트는 전환 SOP와 BOM 상호 참조표를 검색해 결론을 제시하고 공정 카드 번호를 붙인다. 이런 질문은 답이 문서에 명확히 적혀 있지만 사람이 찾는 비용이 큰 유형이며, RAG는 검색 시간을 몇 분에서 몇 초로 줄인다.
또 다른 시나리오는 검사 기준 조회다. 사출 공장에서 검사자가 외관 결함 기준을 확신하지 못해 싱크 마크가 중결함인지 묻는다. 에이전트는 해당 IPC-A-610 등급 조항과 사내 관리 기준을 검색해 판단 근거를 돌려준다. 다만 RAG는 문서 근거만 제공하고 최종 판단은 사람의 몫이며 에이전트가 품질 엔지니어를 대신해 서명하지 않는다.
4. 산업용 에이전트에서 RAG 배치 시 유의점
첫 번째로 자주 나오는 질문은 문서가 어디서 오고 어떻게 갱신되는가다. 실제 프로젝트에서 지식 베이스는 보통 MES 공정 문서 라이브러리, 설비 대장 시스템, EAM 수리 오더 라이브러리를 원천으로 한다. 연동은 수동 업로드보다 API를 통한 정기 증분 수집이 지속 가능하다. 색인 갱신 주기는 공정 문서 승인 워크플로와 정합해야 하며 문서가 효력을 발생하는 즉시 재색인이 트리거되어야 한다. 그렇지 않으면 에이전트가 낡은 공정 카드를 인용하는 난처한 일이 생긴다.
두 번째는 하드웨어다. 수천에서 수만 건 문서의 중소 지식 베이스라면 Vector DB와 Embedding 모델을 GPU를 갖춘 산업용 PC나 엣지 서버 한 대에서 돌릴 수 있고 16GB 메모리로 대부분의 7B급 Embedding 및 생성 모델을 커버한다. 대형 모델을 프라이빗 배포하면 선택한 사양에 따라 생성 측 메모리 요구가 올라간다. 검색 자체는 연산 부하가 크지 않아 CPU와 메모리로 동작한다.
세 번째는 구축 기간과 단계다. 전형적 경로는 문서 인벤토리와 정제, 청킹 전략 조정, 검색 품질 평가, 에이전트 워크플로 오케스트레이션, 제한적 시범, 점진적 확산이다. 어려운 것은 체인 구축이 아니라 문서 정제이며, 공장 문서고에는 흐릿한 스캔, 버전 혼선, 같은 설비의 매뉴얼 여러 부가 흔해 이 공수가 자주 과소평가된다.
네 번째 흔한 오해는 RAG를 만능으로 보는 것이다. RAG는 답이 문서에 있는 질문에 강하고, PLC 레지스터의 현재 값이나 여러 시스템에 걸친 계산이 필요한 작업은 에이전트가 도구 인터페이스를 호출해야 하며 RAG는 조작 근거만 제공한다. 또 하나의 실수는 획일적 청크 크기로, 설비 매뉴얼과 작업 지시 기록은 최적 청크 크기가 달라 별도 조정이 필요하다.
5. 산업용 에이전트에서 RAG가 적합한 시나리오와 그렇지 않은 시나리오
적합한 시나리오는 비교적 분명하다. 지식이 문서로 존재하고 버전 관리가 가능하며, 질문의 출처가 어느 정도 확정적이고, 오답 비용이 커서 추적성이 필요한 경우다. 설비 수리 보조, 공정 파라미터 조회, 품질 기준 해석, 전환 안내, 신입 교육 Q&A가 모두 해당한다.
부적합한 사례도 말해야 한다. 하드 실시간 제어 루프에는 RAG를 넣지 말아야 하며, 검색과 생성 지연이 초 단위여서 밀리초 제어 주기를 따라갈 수 없다. 진동 초과 알람처럼 센서 값만으로 판정하는 작업은 직접 임계값 규칙이 더 신뢰할 만하고 대형 모델을 우회할 필요가 없다. 문서가 없거나 심하게 낡은 경우도 마찬가지로, 쓰레기가 들어가면 쓰레기가 나오므로 지식 베이스 거버넌스가 먼저다.
이 접근을 제공하는 벤더는 ERP 시대부터 수십 년 이 분야에서 일해 왔고 120만 고객에게 서비스하며 수천만 대의 단말을 보급하고 국내외 시장을 커버하며 현장 시스템 통합과 문서 거버넌스 경험을 축적해 왔다. 선정 시에는 두 가지를 보아야 한다. 검색이 표와 정밀 코드를 얼마나 잘 다루는지, 그리고 문서 갱신에서 색인 재생성까지의 경로가 얼마나 자동화되어 있는지다. 이 두 가지가 RAG가 그저 쓸 만한 수준인지 현장에서 정말 좋은지를 결정한다.