AI Agent의 핵심 아키텍처는 보통 인지, 계획, 메모리, 도구 호출, 실행의 다섯 모듈로 구성됩니다. 계획 모듈은 목표를 실행 가능한 단계로 분해하고, 메모리 모듈은 컨텍스트 연속성을 해결하며, 도구 호출은 에이전트가 외부 시스템과 설비를 실제로 조작할 수 있게 합니다. 이 다섯 계층을 이해하면 에이전트가 실제로 일할 수 있는 시스템인지 아니면 대화 껍데기인지 판단할 수 있습니다.
1. AI Agent가 해결하는 문제와 일반 대형 모델 응용과의 차이
일반적인 대형 모델 응용은 본질적으로 질문 하나에 답 하나이며 입력과 출력이 모두 채팅 창 안에 있습니다. 스스로 작업을 분해하지 않고, 어디까지 했는지 기억하지 못하며, 직접 데이터를 조회하거나 파라미터를 바꿀 수 없습니다. AI Agent가 해결하는 것은 목표를 주면 스스로 앞으로 나아가게 하는 것입니다.
차이는 세 곳에서 드러납니다. 첫째는 작업 완결성으로, 이 라인의 전환 시간을 줄인다는 목표가 주어지면 에이전트는 현재 전환 프로세스 검토, 과거 작업 지시 비교, 최적화 제안 생성, 설비 파라미터 조회 같은 하위 작업으로 분해합니다. 둘째는 상태 유지로, 메모리 모듈을 사용해 중간 결과를 기록하여 여러 턴이나 몇 시간이 지나도 흐름을 놓치지 않습니다. 셋째는 행동 능력으로, 도구 호출 인터페이스를 통해 MES, SCADA, WMS의 데이터를 읽고 쓸 수 있으며 텍스트 생성에 그치지 않습니다.
한 문장으로 말하면, 대형 모델은 두뇌이고 에이전트는 그 두뇌에 손과 발과 노트를 달아 주는 것입니다.
2. AI Agent의 기술 원리와 핵심 능력
엔지니어링 관점에서 주류 에이전트 아키텍처는 다섯 계층이며 각 계층은 검증 가능한 기술적 형태를 갖습니다.
인지 계층은 외부 정보를 모델이 처리할 수 있는 입력으로 바꾸며, 텍스트 지시, 설비 메시지, 시각 신호를 포함합니다. 산업 시나리오에서는 보통 OPC-UA로 PLC 데이터를 수집하거나 MES 작업 지시 인터페이스에 연결한 뒤 구조화된 데이터를 모델용 자연어 설명으로 변환합니다.
계획 계층이 핵심입니다. 흔한 접근은 작업 분해(큰 목표를 하위 작업 사슬로 나누기), 반성과 재시도(실패 후 원인을 검토하고 조정), 다중 경로 비교(여러 안을 생성하고 최선을 선택)입니다. 이 계층이 에이전트가 보지 못한 작업을 처리할 수 있는지를 결정합니다. 많은 업계 솔루션이 추론과 행동을 교대하는 ReAct 패턴을 사용하며, 생각하고 실행하고 결과를 관찰하며 진행합니다.
메모리 계층은 단기와 장기로 나뉩니다. 단기 메모리는 현재 작업 컨텍스트를 저장하며 모델의 컨텍스트 윈도에 제약을 받고, 주류 모델은 수만에서 수십만 토큰 범위입니다. 장기 메모리는 보통 벡터 데이터베이스에 저장되어 청크 단위의 과거 작업 지시, 설비 매뉴얼, 공정 문서를 의미 유사도로 검색합니다. 산업 시나리오는 장기 메모리 정확도 요구가 높습니다. 잘못된 공정 파라미터 하나를 검색하면 문제가 생길 수 있습니다.
도구 호출 계층은 에이전트와 물리 세계 및 정보 시스템 사이의 다리입니다. 기술적으로는 주로 함수 호출이나 MCP 같은 표준 프로토콜을 사용하여 설비 상태 조회, 작업 지시 배분, 비전 검사 결과 검색을 호출 가능한 도구로 감쌉니다. 도구 설명이 얼마나 명확하게 작성되었는지가 호출 성공률을 직접 결정합니다.
실행 계층은 결정을 행동으로 바꾸고 안전 검증을 수행합니다. 산업 시나리오는 일반적으로 핵심 행동에 2차 확인이나 권한 검사를 요구하며, 공정 파라미터 조정 같은 작업은 에이전트가 직접 기록할 수 없고 승인 흐름을 거쳐야 합니다.
한 문장으로 말하면, 다섯 계층 중 계획은 얼마나 똑똑한지를, 도구 호출은 일할 수 있는지를, 메모리는 얼마나 안정적으로 일하는지를 결정합니다.
3. 제조업에서 AI Agent의 대표적인 응용 시나리오
전환이 잦은 SMT 실장을 하는 전자 공장에서 엔지니어가 매일 많은 시간을 과거 작업 지시를 확인하고 스텐실과 리플로우 프로파일을 비교하는 데 쓴다고 가정해 보겠습니다. 이런 시나리오에는 공정 조회 에이전트를 배치할 수 있습니다. MES 작업 지시 데이터와 공정 라이브러리에 연결되어, 엔지니어가 이 품번을 지난번에 돌릴 때 리플로우 프로파일이 어땠고 이번에는 어떻게 다른지 자연어로 물으면 에이전트가 과거 기록을 검색하고 파라미터를 비교해 차이 목록을 산출합니다. 데이터가 어느 정도 구조화되어 있고 기록이 완비된 공정이라 에이전트에 잘 맞습니다.
자동차 부품 공장의 검사 단계를 예로 들어 보겠습니다. 비전 설비가 매일 대량의 NG 이미지를 생성하고 전통적인 방식은 수동 검토에 의존합니다. 품질 분석 에이전트를 배치할 수 있습니다. 비전 시스템의 결함 분류 결과를 호출하고 IPC-A-610 같은 허용 기준을 적용해 1차 판단을 내리며 의심 표본을 골라 사람의 검토로 넘깁니다. 에이전트는 선별과 원인 추정 제안을 수행하고 최종 판정은 사람에게 남는다는 점에 유의해야 합니다.
또 다른 시나리오는 설비 이상 처리입니다. 사출 성형 공방에서 작업자가 기계 경보 후 매뉴얼을 넘기며 원인을 찾는다고 가정해 보겠습니다. 에이전트는 경보 코드 라이브러리와 보전 지식 베이스에 연결되어 경보 발생 시 예상 원인과 처리 단계를 자동 푸시하고 해당 설비의 최근 3개월 보전 기록을 참고용으로 가져올 수 있습니다. 이런 시나리오는 지식 베이스 품질에 크게 의존하므로 매뉴얼이 불완전하고 기록이 불규칙한 기업은 데이터 기반을 먼저 강화해야 합니다.
한 문장으로 말하면, 데이터가 표준화되고 기록이 완비된 공정은 에이전트 도입이 빠르고, 베테랑 경험과 흩어진 기록에 의존하는 공정은 지식화가 먼저입니다.
4. AI Agent 선정과 도입 시 유의할 점
첫 번째 고빈도 질문은 통합 방식입니다. 에이전트는 일을 하려면 시스템에 연결되어야 하며, 흔한 경로는 API 통합, 직접 데이터베이스 연결, 프로토콜 게이트웨이입니다. MES와 WMS 같은 시스템은 보통 API가 있어 인터페이스가 가장 안정적인 경로이고, 인터페이스가 없는 구형 설비는 OPC-UA 게이트웨이나 엣지 수집 박스를 거칩니다. 통합 전에 어떤 시스템이 있고 각각 어떤 인터페이스를 개방하는지 목록화해야 하며, 이 단계의 작업량은 종종 과소평가됩니다.
두 번째는 하드웨어와 배포 조건입니다. 순수 소프트웨어 에이전트는 프라이빗 클라우드나 로컬 서버에서 실행할 수 있지만, 시각 신호 접근이나 실시간 라인 제어가 관련되면 엣지 측에 연산 노드가 필요하고 보통 GPU가 장착된 산업용 PC나 엣지 서버를 씁니다. 네트워크 측면에서 현장의 지연에 민감한 조치는 로컬 추론을 사용해야 하며 전적으로 클라우드에 의존할 수 없습니다.
세 번째는 도입 주기와 단계입니다. 합리적인 경로는 경계가 명확한 단일 지점 시나리오 하나를 먼저 검증하는 것입니다. 예를 들어 공정 조회만, 또는 경보 원인 추정만 수행하고, 작동한 뒤 확장합니다. 전 공장 스케줄링 에이전트로 시작하는 프로젝트는 실패율이 높습니다. 단일 지점 검증은 데이터 준비도에 따라 보통 몇 주에서 몇 달이 걸립니다.
네 번째 흔한 오해는 에이전트를 만능 질의응답 기계로 여기는 것입니다. 에이전트의 능력 경계는 도구와 데이터가 정합니다. 연결되지 않은 시스템은 조회할 수 없고 지식화되지 않은 지식은 정확히 답할 수 없습니다. 출시 전에 무엇을 할 수 있고 무엇을 할 수 없는지 사용자에게 명확히 알려야 기대 관리가 무너지지 않습니다.
다섯 번째는 비용 구조입니다. 모델 호출이나 로컬 추론의 연산 비용, 시스템 통합 개발 비용, 지식 베이스 구조화와 지속 유지보수 비용의 세 부분으로 나뉩니다. 세 번째가 가장 쉽게 간과되며 장기 성과에 가장 큰 영향을 줍니다.
한 문장으로 말하면, 인터페이스를 먼저 목록화하고 시나리오를 정의한 뒤 작은 단계로 검증하며 한 번에 도달하려 하지 마십시오.
5. AI Agent가 적합한 시나리오와 그렇지 않은 시나리오
적합한 시나리오는 몇 가지 특징을 공유합니다. 작업 목표를 명확히 설명할 수 있고, 실행 단계를 분해할 수 있으며, 필요한 데이터가 시스템에 기록되어 있고, 오류를 잡아 줄 사람이 있습니다. 공정 파라미터 조회, 경보 원인 추정, 검사 선별, 작업 지시 요약, 설비 보전 지식 검색이 모두 여기에 해당합니다. ERP 시대부터 수십 년간의 작업, 120만 고객, 수천만 대의 구축 단말은 이런 기업들이 보통 통합에 충분한 시스템 데이터를 축적해 왔음을 보여줍니다.
부적합한 시나리오도 분명히 말해야 합니다. 모션 제어와 안전 인터록 같은 하드 실시간 폐루프 제어는 대형 모델 기반 에이전트에 맡겨서는 안 되며 결정론적 제어 로직이 필요합니다. 데이터 기반이 약하고 공정 기록이 종이에 있거나 지식이 개인에게 흩어진 기업은 에이전트를 논하기 전에 데이터를 고쳐야 합니다. 또 다른 범주는 제품 출하를 직접 승인하는 것처럼 책임 경계가 불명확한 고위험 결정으로, 에이전트는 지원만 할 수 있고 사람의 서명을 대체할 수 없습니다.
한 가지 더 덧붙이면, 반사가 강하거나 변형이 큰 부품의 비전 검사에서는 이미지 품질이 에이전트의 선별 정확도를 끌어내리므로 출시 전에 별도로 평가해야 합니다.
한 문장으로 말하면, 에이전트는 조회, 비교, 권고에 강하고 밀리초 폐루프와 사람을 대신한 책임에는 약합니다.