민감한 데이터를 다루는 Agent, 어디까지 통제할 수 있을까?
의료기관의 AI 플랫폼에서 보안은 개별 기능이 아니라 전체 구조의 문제입니다.
XGEN은 개인정보를 탐지·마스킹하는 PII 보호 기능과 별도의 Guardrail 모델을 활용해 AI의 입력과 출력에 대한 통제 정책을 적용할 수 있도록 구성하고 있습니다.
사용자와 역할에 따라 접근할 수 있는 기능을 구분하고, Agent가 사용할 수 있는 모델과 리소스 역시 권한에 따라 제어할 수 있습니다.
외부 상용 모델뿐 아니라 고객사 내부 환경에 구축한 프라이빗 모델을 연결하는 구성도 가능합니다.
결국 의료기관에서는 단순히 "AI를 사용할 수 있는가"보다 어떤 사용자에게 어떤 데이터와 모델을 어느 범위까지 허용할 것인가를 플랫폼 차원에서 관리할 수 있어야 합니다.
자연어로 DB를 조회하되, AI에게 모든 권한을 주지는 않습니다
현장에서 관심이 높았던 기능 중 하나는 Text-to-SQL이었습니다.
사용자가 자연어로 질문하면 AI가 필요한 데이터를 찾아 분석하는 방식은 병원의 다양한 데이터 활용 가능성을 크게 높일 수 있습니다.
XGEN에서는 데이터베이스 연결 기능을 Agent의 Tool로 구성할 수 있으며, 필요하면 MCP를 통해 외부 시스템이나 데이터 자원과 연결할 수도 있습니다.
중요한 것은 연결과 권한을 분리하는 것입니다.
Agent가 데이터베이스를 활용하더라도 허용된 범위 안에서만 동작하도록 쿼리 정책과 접근 방식을 통제할 수 있습니다.
즉, AI가 데이터를 활용할 수 있게 만드는 것과 AI에게 데이터베이스를 자유롭게 맡기는 것은 다르게 설계합니다.
의료 문서는 OCR만으로 충분하지 않습니다
병원에서 AI가 활용해야 하는 문서에는 텍스트만 들어 있지 않습니다.
표와 이미지, 차트 등 다양한 형태의 정보가 하나의 문서에 함께 존재합니다.
XGEN의 문서 처리에서는 단순 OCR에만 의존하지 않고 문서의 특성에 따라 파싱과 Vision Language Model(VLM) 등을 활용할 수 있습니다.
텍스트와 표의 구조를 분석하고, 일반적인 문자인식만으로 해석하기 어려운 시각 정보는 Vision 모델을 활용하는 방식입니다.
특히 실제 Enterprise RAG 환경에서는 LLM 자체의 성능 못지않게 원본 문서를 얼마나 정확한 구조와 의미로 변환하느냐가 검색과 답변 품질에 큰 영향을 줍니다.
그래서 XGEN에서는 문서 파싱을 단순한 전처리 기능이 아니라 지식 구축 품질을 결정하는 중요한 영역으로 다루고 있습니다.
병원이 선택한 모델을 XGEN에서도 사용할 수 있을까?
가능합니다.
XGEN은 특정 LLM 하나를 전제로 Agent를 설계하지 않습니다.
LLM 모델 카탈로그를 통해 여러 모델을 등록하고, Agent 또는 사용자 역할에 따라 사용할 모델을 구성할 수 있습니다. 임베딩 모델 역시 필요에 따라 추가할 수 있습니다.
업무마다 필요한 AI 성능도 다릅니다.
문서 검색과 요약, 데이터 분석, 복잡한 추론에 동일한 모델을 사용할 필요가 없기 때문에 업무 특성과 성능, 비용, 보안 환경 등을 고려해 모델을 선택할 수 있는 구조를 제공합니다.
향후 새로운 모델을 도입하거나 기존 모델을 변경할 때도 Agent 전체를 특정 모델에 종속시키지 않는 것이 XGEN이 지향하는 구조입니다.
기존 병원 시스템은 어떻게 Agent의 업무 도구가 될까?
AI Agent가 실제 업무를 수행하려면 기존 시스템과 연결되어야 합니다.
XGEN에서는 기존 API나 데이터베이스 등을 Agent가 사용할 수 있는 Tool로 구성할 수 있습니다.
외부 API가 있다면 이를 등록해 Agent가 호출하도록 만들 수 있고, MCP 기반 연결도 지원합니다. 기업의 기존 데이터 처리 과정이나 특수한 시스템과 연결해야 한다면 필요한 영역을 Custom Node로 확장하는 방식도 가능합니다.
이 구조의 목적은 기존 시스템을 AI 플랫폼으로 교체하는 것이 아닙니다.
현재 운영 중인 시스템과 데이터를 유지하면서 필요한 기능을 Agent가 사용할 수 있도록 연결하는 것입니다.
병원처럼 오랜 기간 구축된 여러 시스템을 함께 운영하는 환경에서는 이러한 연계 방식이 특히 중요합니다.
일반 직원도 Agent를 만들 수 있을까?
XGEN은 Agent 제작을 전문 개발자에게만 한정하지 않습니다.
실제 구축 현장에서도 부서별 담당자를 선정하고 교육을 통해 현업이 직접 필요한 Agent를 구성하는 방식을 적용하고 있습니다.
다만 모든 사용자에게 동일한 기능과 권한을 제공하지는 않습니다.
일반 사용자, Agent 개발자, 관리자 등 역할에 따라 접근할 수 있는 기능을 구분할 수 있으며, 관리자에게 필요한 운영 기능은 일반 사용자에게 노출하지 않는 방식으로 구성할 수 있습니다.
현업은 자신의 업무를 가장 잘 알고 있습니다.
따라서 현업의 업무 전문성과 플랫폼의 제작 환경을 결합하되, 권한과 배포는 기업의 관리 체계 안에서 통제하는 것이 XGEN이 지향하는 활용 방식입니다.
Agent를 만드는 것만큼 운영하는 것도 중요합니다
Agent가 몇 개일 때는 개별적으로 관리할 수도 있습니다.
하지만 여러 조직에서 Agent를 만들고 다양한 모델과 데이터를 연결하기 시작하면 운영 환경이 복잡해집니다.
XGEN은 Agent의 제작뿐 아니라 모델과 리소스 관리, 사용자 권한, 배포 프로세스, AI 거버넌스까지 하나의 플랫폼에서 관리하는 방향으로 기능을 확장하고 있습니다.
LLMOps 역시 이러한 운영 체계의 일부입니다.
모델과 Agent의 사용 및 운영 상태를 관리할 수 있는 환경을 제공함으로써 AI를 개별 프로젝트가 아니라 기업의 공통 IT 자원으로 운영하는 것이 목표입니다.
의료기관의 AI 플랫폼, 결국 하나의 기능을 고르는 문제는 아니었습니다
현장에서 나온 질문들을 하나씩 살펴보면 공통점이 있습니다.
챗봇을 만들 수 있는지, RAG를 지원하는지 같은 개별 기능 확인에서 끝나지 않았습니다.
데이터 보호 → 문서 이해 → 모델 선택 → 시스템 연결 → Agent 제작 → 권한·배포 → 운영·거버넌스
까지 하나의 흐름으로 이어졌습니다.
병원에서 필요한 AI 업무가 앞으로 계속 늘어난다고 가정한다면 매번 별도의 AI 시스템을 구축하는 것보다, 새로운 모델과 데이터·Tool·Agent를 계속 추가하면서도 공통된 정책 아래 관리할 수 있는 기반이 필요합니다.
이것이 XGEN을 개별 AI Agent가 아니라 Enterprise AI 플랫폼으로 설계하고 있는 이유이기도 합니다.
Field Report
이번 현장에서 특히 흥미로웠던 것은 의료기관의 질문이 상당히 구체적이었다는 점입니다.
"우리 DB를 연결할 수 있습니까?"
"민감정보는 어떻게 통제합니까?"
"문서 안의 차트도 읽습니까?"
"우리가 선택한 모델도 쓸 수 있습니까?"
"현업 직원도 Agent를 만들 수 있습니까?"
AI를 실제 기업 환경에 적용하려는 단계에 들어가면 자연스럽게 나올 수밖에 없는 질문들입니다.
그리고 같은 질문이라도 답은 의료기관마다 달라질 수 있습니다.
보유한 데이터와 기존 시스템, AI 인프라, 보안 정책, 활용하려는 업무가 모두 다르기 때문입니다.
XGEN은 이러한 환경에서 모델·데이터·Agent·Tool을 연결하고, 그 위에 기업이 필요한 보안과 권한, 거버넌스를 적용할 수 있는 기반을 제공하는 것을 목표로 합니다.
의료기관에서 AI 플랫폼을 검토하고 있다면, 어떤 기능을 사용할 것인가보다 먼저 현재의 데이터와 시스템을 AI와 어디까지 연결할 것인가부터 살펴보는 것이 좋은 출발점이 될 수 있습니다.
