회의 녹음 파일을 올리면 화자별 텍스트로 바꿔 주는 기능을 설계하며 범위, 화자분리 모델 배치, 업로드 방식, 호출 순서에 대한 판단이 차례로 바뀐 과정을 정리합니다.
Geny의 실행 기반에서 Orka·Plex와 자기 개선까지
LLM을 이해하기 위해 꼭 알아야 할 핵심 개념을 하나씩 짚어봅니다.
결함리포트 80건을 읽고 코드·오류·매뉴얼을 다시 만든 3주의 기록
AI 에이전트가 일하는 실행 환경을 밑바닥부터 설계한 기록
질문에서 출발해 지식그래프를 만들고 품질과 검색까지 다듬은 기록
XGEN 서비스 이전과 함께 Jaeger Tracing을 도입하며, Envoy 사이드카의 한계를 넘고 OpenTelemetry Auto Instrumentation으로 분산 추적을 구성한 과정을 정리합니다.
온프레미스 AI 에이전트란 기업의 보안 경계사내 인프라·프라이빗 클라우드 안에서 LLM과 AI 에이전트를 실행해, 핵심 데이터를 외부로 전송하지 않고 ERP·MES·그룹웨어 같은 사내 시스템을 직접 조회·판단·실행하도록 하는 AI 운영 방식입니다.
Agent가 사내 시스템을 직접 실행하는 단계에 들어서면 선택 기준이 달라집니다. 보안 경계 안에서 데이터를 지키고, 기존 시스템과 연결하고, 실행을 통제·추적하는 온프레미스 Agent 플랫폼의 조건을 따져봤습니다.
AI Agent는 서버에서 실행되고, 사용자는 자신의 데스크톱에서 Agent와 협업합니다. 중앙 통제는 그대로 두고 업무 방식만 바꾸지 않는 연결 방식을 소개합니다.
▶ 롯데홈쇼핑·제주은행 운영 경험과 GS 1등급 품질 위에 AI 운영 체계 재설계 ▶ 데이터 관계 분석을 통한 온톨로지 구축으로 답변 품질·신뢰도 향상 ▶ 표준 코드로 관리…AI 에이전트, 모델·플랫폼 종속 없이 재사용·확장