컨텍스트 창은 모델이 이번 요청에서 볼 수 있는 작업 공간입니다. 파라미터·대화 기록·장기 기억·RAG를 구분하고, 길이보다 선택과 배치가 중요한 이유를 설명합니다.
LLM을 이해하기 위해 꼭 알아야 할 핵심 개념을 하나씩 짚어봅니다.
결함리포트 80건을 읽고 코드·오류·매뉴얼을 다시 만든 3주의 기록
AI 에이전트가 일하는 실행 환경을 밑바닥부터 설계한 기록
질문에서 출발해 지식그래프를 만들고 품질과 검색까지 다듬은 기록
역량 질문을 먼저 정하고 답에 필요한 개념을 찾는 방식이었습니다. 배송과 반품을 묻는 질문만 있으면 원문의 예외 승인 절차는 그래프에 남지 않았습니다. 질문을 빌드에서 빼고 평가에 남긴 과정입니다.
도구를 세 번 쓴 실행과 품질 검증에 세 번 실패한 실행이 같은 '재시도 3회'로 남았습니다. 생성·검증·도구 실행·재시도를 하나의 반복문에서 꺼내 명시적인 상태와 전이로 나눈 과정입니다.
컨설팅·커머스 운영 현장에서 나온 질문들 — 어떤 업무를 AI에 맡길지, 사내용과 대고객 AI를 어떻게 나눌지, 레거시 데이터를 어떻게 지식 구조로 옮길지, 늘어나는 Agent를 어떻게 통제할지 — 미팅에서 오간 이야기를 그대로 옮겼습니다.
B2C 이커머스의 고객 분석을 그대로 옮기기 어려운 이유, 예측에서 멈추지 않고 영업 대응까지 잇는 설계, 그리고 짧은 PoC에서 먼저 검증해야 할 질문까지 짚었습니다.
제조·유통 기업의 온톨로지 기반 AI 플랫폼 도입 검토 현장에서 나온 질문들 — 문서 자동 추출, RDB 연결, 퍼블릭 LLM과 데이터 경계, 지식 최신화 주기, 그리고 어디서부터 시작할 것인가까지 하나씩 답해봤습니다.
