XGEN 뉴스레터 vol.6

Notion은 10월 19일 에이전트 하네스를 6세대로 개편했습니다. 하나의 작업을 실행할 수 있는 시간이 5분에서 24시간 이상으로 늘었고, 서버가 재시작돼도 작업 대기열에서 이어서 진행합니다. 긴 대화는 압축하고 큰 도구 결과는 따로 분리해 단계마다 다시 읽는 양을 줄였으며, 실행 전에 다른 모델이 안전성을 검사하는 모드도 추가했습니다. 작업마다 모델을 자동으로 고르는 Auto 라우터는 20여 개 업무에서 상위 모델과 비슷한 결과를 평균 90% 낮은 비용으로 냈다고 밝혔지만, 측정 방법은 공개하지 않았습니다.

에이전트가 오래 일할수록 중간에 방향을 바꾸고, 무엇을 했는지 되짚어 보는 기능이 중요해집니다. 이번 호에서 소개한 ‘실행 중 추가 지시’와 ‘실행 트레이스’가 이 부분에 해당합니다.

SK텔레콤은 10월 26일 AI 거버넌스 리포트를 발간하고 사내 에이전트 관리 방식을 공개했습니다. 개발을 마친 에이전트는 기본 정보를 등록하고 별도 심사를 통과하면 사번을 받으며, 이후 담당 업무·책임자·운영 상태·성과를 관리받습니다. 자율성이 높은 에이전트일수록 사람의 검토와 승인 절차를 강화하고, 업무 완결성·영향 범위·데이터 접근 방식·성과 기여도를 기준으로 계속 운영할지 종료할지 결정합니다. 2028년까지 폐기 단계를 포함한 관리체계를 정착시키는 것이 목표입니다.

에이전트를 직원처럼 관리하려면 누가 만들었고, 누구에게 공개됐고, 무엇을 했는지 기록이 남아야 합니다. XGEN의 에이전트 공유(사용자·역할 단위), 결재, 실행 기록이 이 요구에 대응하는 기능입니다.

금융보안원은 10월 7일 금융분야 AI 에이전트 보안 평가 기준 초안을 공개했습니다. 6개 분야 17개 점검 항목으로 구성되며, 실행 권한과 격리, 도구 실행과 승인 통제, 작업 범위와 결과 확인, 자율 실행 제한과 중단 여부를 점검합니다. 연말까지 시범 검증을 거쳐 2027년부터 정식 점검 기준으로 도입할 예정입니다.

금융권에서 에이전트를 도입하려면 이 항목들에 답할 수 있어야 합니다. XGEN은 샌드박스 격리, 결재, 통제 정책, 실행 중지 기능을 이 기준과 항목별로 대조해 볼 계획입니다.

금융위원회는 10월 14일 은행·저축은행·캐피탈·가상자산 등 16개 금융회사에서 사고가 확인됐다고 발표했고, 10월 말까지 증권·보험·자산운용 업권에서도 사고가 이어졌습니다. 공격 대상은 대출정보 조회 서비스, 비대면 계좌개설 연계 서버, 직원용 모바일 업무 시스템처럼 외부와 연결된 업무 시스템이었습니다. 한 곳에서는 본인 확인 절차를 우회해 입력값을 반복 대입했고, 다른 곳에는 정상 요청으로 위장한 접근이 약 6만 건 들어왔습니다. 기사는 정상적으로 로그인했더라도 다른 사람의 정보를 볼 수 있다면 인가 통제에 문제가 있다고 지적하며, 외부 시스템의 인증·인가 누락을 우선 점검 항목으로 꼽았습니다. 다만 사고별 직접 원인은 아직 확정되지 않았습니다.

XGEN이 10월에 다시 점검한 부분도 이 인가 영역입니다. 문서와 에이전트마다 소유자를 확인하고, 본인 소유가 아니면 열리지 않도록 했습니다.

한 금융회사를 노린 무차별 대입 공격 인프라에서 오픈소스 AI 해킹 자동화 도구를 사용한 정황이 포착됐습니다. 대규모 언어 모델로 해킹 준비 과정을 자동화하는 도구로, 보안 업체가 인터넷에 노출된 관련 IP 359개를 추적한 결과 91% 이상이 해외에 있었습니다. 보안 업체는 AI 자동화가 공격자에게 주는 핵심 이점을 기술 자체보다 속도와 규모로 봤습니다. 실제 공격에 어디까지 쓰였는지는 아직 확인되지 않았습니다.

공격 시도가 빨라지고 많아질수록, 방어하는 쪽은 요청마다 권한을 확인하는 구조를 갖춰야 합니다.

Microsoft는 10월 19일 기업 내부의 에이전트를 감시하는 Guardian Agents를 발표했습니다. 직원이 도입한 에이전트를 최대 60종까지 탐지하고, 작업에 맞춰 에이전트 권한을 조정하며, 위험한 행동은 사람의 승인을 받도록 합니다. Microsoft 보안 사업 책임자는 프런티어 모델은 출처와 관계없이 신뢰할 수 없다고 말했습니다.

공격자가 에이전트를 활용하는 만큼, 기업 내부의 에이전트도 필요한 만큼만 권한을 받고 승인 절차를 거쳐야 합니다. 통제권은 모델 공급사가 아니라 에이전트를 사용하는 기업이 가져야 한다는 점이 XGEN이 결재와 통제 정책을 플랫폼 안에 두는 이유입니다.