1. AI Agent 도입의 목표가 '인력 절감'이라면 무엇부터 봐야 할까
P사가 관심을 보인 영역 중 하나는 현재 사람이 수행하는 운영 업무에 AI Agent를 적용해 반복 업무를 줄이고 운영 생산성을 높이는 것이었습니다.
기업이 AI Agent를 검토할 때 흔히 기대하는 효과이기도 합니다.
하지만 모든 업무를 하나의 Agent로 대체하는 방식보다는 현재 사람이 수행하는 업무를 세분화하고, AI가 잘할 수 있는 업무와 사람의 판단이 필요한 업무를 구분하는 것이 먼저입니다.
예를 들어 커머스·마케팅 운영 업무라면 다음과 같이 나눠볼 수 있습니다.
데이터 수집 → 데이터 분석 → 이상 징후 탐지 → 리포트 작성 → 대응 방안 제안 → 최종 판단 및 실행
이 가운데 정형화된 데이터 처리나 반복적인 분석·리포팅은 AI Agent 적용 가능성이 높은 영역입니다.
실제로 이번 논의에서도 데이터가 유입되면 AI가 이를 분석해 리포트를 생성할 수 있는가가 주요 질문으로 나왔습니다.
여기서 한 단계 더 중요한 것은 기존에 정해진 양식의 리포트를 자동으로 만드는 것만이 아닙니다.
AI Agent는 주어진 데이터를 바탕으로 기존 관점과 다른 분석을 수행하거나, 사용자의 추가 질문에 따라 새로운 관점으로 데이터를 탐색하는 방식으로 확장할 수 있습니다.
결국 AI Agent의 가치는 단순한 Report Automation을 넘어,
Data → Analysis → Insight → Action
으로 이어지는 과정에서 사람이 반복적으로 수행하던 업무를 얼마나 줄일 수 있는가에 있습니다.
2. 사내용 AI와 고객용 AI는 같은 기준으로 설계하기 어렵다
논의 과정에서 흥미로운 질문 중 하나는 AI Agent를 기업 내부 직원뿐 아니라 일반 고객이 직접 사용하는 서비스에도 적용할 수 있는가였습니다.
기술적으로는 가능합니다.
하지만 고객 대상 AI 서비스는 사내 업무지원 Agent와 다른 문제가 발생합니다.
사내 Agent는 사용자와 사용 목적, 업무 범위를 어느 정도 예측할 수 있습니다. 반면 불특정 다수가 사용하는 대고객 AI는 사용자가 어떤 질문을 얼마나 많이 할지, 어느 범위까지 AI를 사용할지 사전에 정확히 예측하기 어렵습니다.
이는 곧 비용과 품질 관리 문제로 이어집니다.
사용량이 증가하면 LLM API 및 인프라 비용이 증가할 수 있고, 다양한 질문에 대한 응답 품질을 어떤 기준으로 평가할 것인지도 정해야 합니다.
따라서 대고객 AI를 설계할 때는 기능 구현 여부뿐 아니라 최소한 다음 세 가지를 함께 고려해야 합니다.
사용 범위 통제 / AI 사용 비용 관리 / 응답 품질 평가
Enterprise AI에서 중요한 질문은 "AI가 가능한가?"에서 끝나지 않고 "운영 가능한가?"까지 이어져야 합니다.
3. AI가 데이터를 이해하려면 데이터 구조부터 봐야 한다
또 다른 주요 논의는 상품 정보를 AI가 어디까지 이해하고 정형화할 수 있는가였습니다.
커머스 현장에는 항상 잘 정리된 데이터만 존재하지 않습니다.
상품명이 제각각이거나, 속성 체계가 통일되어 있지 않거나, 여러 시스템에 동일한 상품 정보가 서로 다른 형태로 관리되는 경우도 있습니다.
AI를 이용하면 이러한 비정형 정보를 해석하고 일정한 구조로 정리하는 작업을 지원할 수 있습니다.
하지만 AI가 데이터를 읽을 수 있다는 것과 기업 전체에서 일관된 의미 체계로 데이터를 사용할 수 있다는 것은 다른 문제입니다.
여기에서 온톨로지와 지식 체계가 중요해집니다.
특히 기존 시스템을 보유한 기업에서는 이미 존재하는 데이터에 대해
데이터 정제 → 기존 스키마 분석 → 의미 관계 정의 → 스키마 매핑 → 지식 체계 구축
과정이 필요합니다.
따라서 레거시 시스템이 많을수록 AI 모델 자체보다 기존 데이터를 AI가 사용할 수 있는 지식 구조로 전환하는 과정에서 더 많은 노력이 필요할 수 있습니다.
반대로 신규 시스템을 구축하는 단계부터 AI 활용을 고려한다면 상황이 달라집니다.
초기 데이터 모델링 단계부터 향후 AI가 활용할 지식 체계를 고려해 설계할 수 있기 때문에 기존 시스템을 사후 변환하는 것보다 데이터 정합성을 확보하기가 상대적으로 용이합니다.
이는 향후 AI 시스템을 준비하는 기업에 중요한 시사점을 줍니다.
AI Ready는 모델을 도입하는 것에서 시작하는 것이 아니라, 데이터 구조를 설계하는 단계부터 시작될 수 있습니다.
4. Agent가 많아질수록 '만드는 기능'보다 '관리하는 기능'이 중요해진다
이번 미팅에서는 AI Agent의 기능 못지않게 거버넌스와 운영 관리에 대한 질문도 이어졌습니다.
Agent를 모니터링할 수 있는가?
Agent의 배포 과정을 관리할 수 있는가?
어떤 Agent가 운영 중인지 통제할 수 있는가?
PoC 단계에서는 Agent 하나가 원하는 답을 잘 만드는지가 중요합니다.
하지만 기업 내 Agent가 10개, 50개, 100개로 증가하면 문제의 성격이 달라집니다.
누가 Agent를 만들었는지, 어떤 모델과 데이터를 사용하는지, 운영 환경에 누가 배포를 승인했는지, 문제가 발생하면 어떤 Agent의 실행 과정에서 발생했는지 관리할 수 있어야 합니다.
따라서 Enterprise AI 플랫폼에는 Agent를 만드는 Build 기능과 함께
Monitor → Evaluate → Approve → Deploy → Govern
할 수 있는 운영 체계가 필요합니다.
AI Agent가 실제 기업 시스템과 연결되어 업무를 실행하기 시작한다면 이러한 관리 기능의 중요성은 더욱 커집니다.
5. 기존 시스템을 AI와 연결하는 방법도 중요하다
기업의 AI 도입은 대부분 새로운 시스템만을 대상으로 하지 않습니다.
이미 운영 중인 Back Office, 커머스 플랫폼, 마케팅 시스템, 상품 데이터, 고객 데이터 등이 존재합니다.
따라서 Enterprise AI의 현실적인 과제는 새로운 AI 서비스를 별도로 만드는 것보다 기존 업무 시스템과 AI를 어떻게 연결할 것인가에 가까운 경우가 많습니다.
이번 논의에서도 기존 운영 시스템과 XGEN을 연결해 AI가 업무를 수행할 수 있는지, API 및 MCP 연동을 지원할 수 있는지 등이 주요 질문으로 다뤄졌습니다.
결국 기업 환경의 AI Agent는 독립적으로 존재하기보다,
기존 시스템 → 데이터·API → AI Agent → 업무 실행
이라는 구조로 발전할 가능성이 높습니다.
AI 플랫폼을 선택할 때 모델의 성능뿐 아니라 기존 시스템과의 연계 구조와 확장성을 함께 봐야 하는 이유입니다.
이번 논의에서 얻은 네 가지 인사이트
이번 미팅은 특정 프로젝트의 구축 범위를 확정하기 위한 자리가 아니라, 컨설팅·커머스 운영 영역에서 AI Agent를 어떤 방식으로 활용할 수 있을지를 탐색하는 자리였습니다.
그 과정에서 Enterprise AI를 검토하는 기업들이 공통적으로 확인해야 할 네 가지 질문을 발견할 수 있었습니다.
① 어떤 업무를 AI로 바꿀 것인가
단순히 '인력을 AI로 대체한다'가 아니라 현재 업무를 세분화하고 AI가 반복적으로 수행할 수 있는 영역부터 찾아야 합니다.
② AI를 누구에게 제공할 것인가
사내 업무용과 대고객 서비스는 사용량, 비용, 품질관리 측면에서 서로 다른 운영 전략이 필요합니다.
③ AI가 사용할 데이터는 준비되어 있는가
레거시 환경에서는 AI 모델보다 데이터 정제와 스키마 매핑, 지식 구조화가 더 큰 과제가 될 수 있습니다.
④ 만들어진 Agent를 어떻게 운영할 것인가
Agent가 증가할수록 모니터링, 평가, 배포, 권한 및 거버넌스를 플랫폼 차원에서 관리할 필요성이 커집니다.
Field Report
Enterprise AI 도입을 논의하다 보면 처음에는 "어떤 모델을 사용할 것인가", "어떤 Agent를 만들 것인가"에 관심이 집중됩니다.
하지만 실제 기업 환경의 질문은 빠르게 달라집니다.
기존 업무 중 무엇을 AI에 맡길 것인가.
우리 데이터를 AI가 제대로 이해할 수 있는가.
기존 시스템과 어떻게 연결할 것인가.
사용량과 품질을 어떻게 관리할 것인가.
그리고 수많은 Agent를 누가 어떻게 통제할 것인가.
결국 Enterprise AI의 경쟁력은 하나의 뛰어난 Agent를 만드는 데서 끝나지 않습니다.
데이터와 기존 시스템, AI Agent, 그리고 운영·거버넌스를 하나의 업무 체계 안에서 연결할 수 있을 때 AI는 데모를 넘어 실제 기업의 운영 방식으로 들어갈 수 있습니다.
