지식 센터
목차

AI Agent의 계획과 추론 능력

AI Agent의 계획과 추론 능력은 그것이 단지 고급 자동화 스크립트인지 스스로 문제를 풀어낼 수 있는 디지털 일꾼인지를 결정한다. 지난 2년간 대형 모델은 기계가 인간의 언어를 이해하게 했지만, 공장 현장에서 실제로 일을 해내고 제대로 해내게 만드는 것은 이 두 가지 기초 역량이다. 업계에서는 이 둘이 데모만 하는 AI Agent와 실제로 성과를 내는 AI Agent를 가르는 분수령이라는 견해가 널리 받아들여진다.

1. 핵심 개념과 정의

AI Agent는 환경을 인지하고 의사결정하며 목표 달성을 위해 행동할 수 있는 소프트웨어 실체로 이해할 수 있다. 전통적 프로그램과 가장 큰 차이는 이것이다. 전통적 프로그램은 인간이 하드코딩한 프로세스를 따르지만, Agent는 실행 중에 다음에 무엇을 할지 스스로 판단해야 한다.

계획 능력이란 모호하거나 복잡한 목표를 실행 가능한 하위 작업 순서로 쪼개고, 실행 중에는 피드백에 따라 순서를 조정하며 단계를 추가하거나 제거하는 Agent의 능력을 말한다. 예를 들어 이 라인의 수율 문제를 잡아내라고 하면, 어느 설비를 먼저 볼지, 다음에 어느 자재 배치를 볼지, 공정 파라미터를 조정할지를 스스로 정해야 한다.

추론 능력이란 정보가 불완전할 때 판단하고 추론하는 Agent의 능력을 말한다. 인과 추론(이 결함이 그 파라미터 드리프트 때문에 생겼는가), 상식 추론(품종 전환 후에는 초도품 검사를 해야 한다), 다단계 논리 연역(A가 성립하고 B가 성립하면 C는 성립하지 않을 가능성이 높다)을 포함한다. 계획은 단계를 배열하는 쪽에, 추론은 사고를 정리하는 쪽에 가깝고, 둘이 맞물려야 폐루프로 일할 수 있는 Agent가 나온다.

2. 기술 원리와 핵심 역량

기술 구현 측면에서 계획과 추론은 보통 여러 경로를 병행한다. 하나는 대형 모델 기반의 사고 사슬과 작업 분해로, 모델이 복잡한 문제를 중간 단계로 쪼개게 한다. 다른 하나는 ReAct 패턴, 즉 추론하고 행동하고 관찰하는 루프로, 매 동작마다 환경이 반환하는 것에 따라 다음 단계를 교정한다. 세 번째는 도메인 지식 그래프나 규칙 엔진으로 모델을 제약해 산업 시나리오에서 근거 없는 가정을 하지 않게 하는 것이다.

핵심 역량에서는 세 가지에 주목할 만하다. 첫째는 작업 분해의 입도 제어다. 너무 거칠면 실행할 수 없고 너무 세밀하면 스케줄링 오버헤드가 크다. 둘째는 도구 호출 능력이다. 언제 MES를 조회하고 언제 PLC 데이터를 가져오며 언제 사람에게 물어야 하는지를 알아야 한다. 셋째는 실패 복구다. 산업 현장에서 백 퍼센트 순조롭게 흘러가는 일은 없으며, 설비가 응답하지 않거나 데이터가 없을 때 다른 경로를 탈 수 있는지가 실제 가동 가능 여부를 직접 결정한다.

한 가지 당부한다. 추론은 대형 모델을 제멋대로 풀어 놓는 것이 아니다. 제조 시나리오에서 추론 결과는 추적 가능하고 검증 가능해야 하며, 그렇지 않으면 잘못된 인과 판단 하나가 제품 한 배치를 폐기시킬 수 있다.

3. 제조업 적용 시나리오

SMT 라인에서 냉납 결함이 자주 발생하는 전자 공장을 가정하자. 전통적 방식은 공정 엔지니어가 스텐실, 솔더 페이스트, 리플로우 온도존을 하나씩 확인하는 것이다. 계획과 추론 능력을 갖춘 Agent가 배치되어 있으면 먼저 지난 사흘간의 오븐 온도 곡선과 결함 분포를 가져와 결함이 특정 온도존에 집중된다고 추론하고, 이어서 검증 행동을 계획한다. 해당 존 히터봉의 과거 전력 데이터를 가져오고, 동일 모델의 다른 라인과 파라미터 차이를 비교하며, 최종적으로 히터봉 노후로 인한 온도존 드리프트라는 후보 결론과 캘리브레이션 권고를 낸다. 전 과정에서 Agent가 스스로 단계를 배열하고 스스로 증거를 찾으며 사람은 최종 확인만 한다.

자동차 부품 기업의 또 다른 가상 시나리오를 보자. 고객이 긴급 주문을 삽입하고 사흘 안에 차별화 사양의 브레이크 디스크 한 배치를 요구한다. 여기서 스케줄링은 설비 능력, 금형 교체, 자재 완비도, 교대 인력 등 여러 제약을 포함한다. Agent의 계획 능력은 여기서 드러난다. 긴급 주문을 금형 가용성 평가, 금형 교체 시간 창 계산, 소재 재고 확인, 조정 스케줄 초안 생성 같은 하위 작업으로 쪼개고, 특정 가공 센터의 정밀도가 새 사양을 충족하지 못한다는 것을 발견하면 해당 공정을 다른 설비로 자동 재할당하며 이것이 후속 주문 납기에 며칠 영향을 주는지 추론한다. 이런 다중 제약 하의 동적 재계획은 전통적 APS 스케줄링 소프트웨어가 유연하게 해내기 어렵다.

세 번째 시나리오는 품질 검사다. 사출 공장에서 비전 검사 시스템이 특정 배치의 외관 불량률 상승을 보고했다고 하자. 원인을 찾으라는 지시를 받으면 Agent는 조사 사슬을 계획한다. 먼저 결함 이미지의 군집 결과를 보고 동일 금형 캐비티에 집중되는지 추론하고, 이어서 해당 캐비티의 금형 온도 기록과 보압 곡선을 가져오며, 금형 온도 변동이 결함 발생 시점과 겹치면 히팅 회로에 문제가 있을 수 있다고 추론해 점검 일정을 권고한다. 이것이 현상과 데이터와 근본 원인을 연결하는 추론의 역할이다.

4. 선정과 도입 제안

처음부터 범용 Agent를 추구하기보다 좁은 시나리오, 강한 제약, 피드백이 있는 진입점에서 시작할 것을 제안한다. 공정이 비교적 고정되어 있지만 예외 분기가 많은 연결고리를 우선한다. 설비 이상 진단, 스케줄링 조정, 품질 검사의 1차 원인 스크리닝 등이다. 이런 시나리오는 계획 경로가 제한적이고 추론 결과를 검증하기 쉽다.

Agent의 설명 가능성을 중시해야 한다. 선정 시 공급업체에 각 추론 단계의 증거 출처를 보여 달라고 요구하라. 어떤 테이블을 조회했고 어떤 인터페이스를 호출했으며 어떤 규칙에 근거했는지다. 결론만 제시하게 해서는 안 된다. 산업 시나리오에서는 틀렸지만 보이는 것이 맞지만 설명할 수 없는 것보다 통제 가능하다.

적용 속도는 인간 개입형 반자동 모드로 시작해 Agent가 방안을 제시하고 사람이 검토해 실행하며, 일정 기간 의사결정 로그를 축적한 뒤 고빈도·저위험 동작을 점진적으로 풀어 주는 것을 제안한다. 동시에 도메인 지식을 주입해야 한다. 순수 범용 대형 모델은 산업 현장에서 상식적 오류를 내기 쉬우며, 설비 매뉴얼, 공정 사양, 과거 작업지시의 지식을 주입하면 계획과 추론의 신뢰성이 눈에 띄게 좋아진다.

한 가지 더 당부한다. Agent의 계획 능력이 아무리 강해도 기저 데이터의 실시간성과 완전성에 의존한다. 데이터 공백이 많고 인터페이스가 연결되지 않는 곳에서는 먼저 데이터 기반을 고치고 Agent 배치를 서두르지 말아야 한다.

5. 전망

첫 번째 방향은 계획과 추론의 엣지로의 경량 이전이다. 미래에 모든 추론이 반드시 클라우드 대형 모델을 거칠 필요는 없으며, 일부 계획 로직은 엣지로 내려가 생산 라인에서 로컬로 빠르게 판단해 응답 시간을 초에서 밀리초로 압축할 것이다.

두 번째 방향은 멀티 Agent 협업 계획이다. 생산 라인에서 설비 Agent, 물류 Agent, 품질 Agent가 각자의 국소 목표를 갖고 있는데, 협상적 추론을 통해 전역 최적으로 가는 방법은 향후 몇 년간 산업 AI의 핵심 주제다.

세 번째 방향은 검증 가능한 추론이다. 업계는 Agent의 모든 추론 단계가 구조화된 흔적을 남겨 감사 가능한 의사결정 사슬을 형성하도록 밀고 있으며, 이는 제조업의 품질 추적과 컴플라이언스 요구에 큰 의미가 있다.

처음의 문장으로 돌아가자. AI Agent가 공장에서 진짜로 한 자리를 맡을 수 있는지는 대화를 얼마나 유창하게 하는가가 아니라 과제를 쪼개고 문제를 정리할 수 있는가에 달려 있다. 계획과 추론은 바로 Agent가 말할 수 있음에서 일할 수 있음으로 넘어가기 위해 반드시 넘어야 할 문턱이다. 이런 시스템을 뒷받침하는 공급업체는 ERP 시대부터 수십 년간 일해 왔고 120만 고객을 서비스하며 누적 수천만 단말을 배치했고 국내외 시장을 커버한다. 이런 업계 축적은 Agent 배치 단계에서 점차 가치를 드러내는데, 계획과 추론이 실제 업무 프로세스를 따라야 안정되기 때문이다.

주제: AI 및 AI 에이전트 백과