회의 녹음 파일을 올리면 화자별 텍스트로 바꿔 주는 기능을 설계하며 범위, 화자분리 모델 배치, 업로드 방식, 호출 순서에 대한 판단이 차례로 바뀐 과정을 정리합니다.
Geny의 실행 기반에서 Orka·Plex와 자기 개선까지
LLM을 이해하기 위해 꼭 알아야 할 핵심 개념을 하나씩 짚어봅니다.
결함리포트 80건을 읽고 코드·오류·매뉴얼을 다시 만든 3주의 기록
AI 에이전트가 일하는 실행 환경을 밑바닥부터 설계한 기록
질문에서 출발해 지식그래프를 만들고 품질과 검색까지 다듬은 기록
관계를 여러 단계 따라가려고 멀티턴 검색을 넣었습니다. 컨텍스트가 커져 도구 결과를 500자로 잘랐더니 표와 긴 원문의 뒷부분이 합성 단계에 도달하지 못했습니다. 탐색을 넓히며 무엇을 잃었는지 정리합니다.
엔진을 별도 모듈로 옮겼지만 실행하려면 제품의 설정 객체와 데이터베이스 세션, 캔버스 노드를 먼저 불러와야 했습니다. 독립을 선언한 사흘 뒤부터 누수를 잡으며 배운, 경계가 닫혔는지 확인하는 방법입니다.
역량 질문을 먼저 정하고 답에 필요한 개념을 찾는 방식이었습니다. 배송과 반품을 묻는 질문만 있으면 원문의 예외 승인 절차는 그래프에 남지 않았습니다. 질문을 빌드에서 빼고 평가에 남긴 과정입니다.
도구를 세 번 쓴 실행과 품질 검증에 세 번 실패한 실행이 같은 '재시도 3회'로 남았습니다. 생성·검증·도구 실행·재시도를 하나의 반복문에서 꺼내 명시적인 상태와 전이로 나눈 과정입니다.
컨설팅·커머스 운영 현장에서 나온 질문들 — 어떤 업무를 AI에 맡길지, 사내용과 대고객 AI를 어떻게 나눌지, 레거시 데이터를 어떻게 지식 구조로 옮길지, 늘어나는 Agent를 어떻게 통제할지 — 미팅에서 오간 이야기를 그대로 옮겼습니다.