AI 품질 방침AI Quality Policy

Enterprise AI는 정확하게 동작하는 것뿐만 아니라 기업이 안심하고 지속적으로 운영할 수 있어야 합니다. 플래티어 AI연구소는 다음 원칙을 기반으로 AI 품질을 관리합니다.

플래티어 AI연구소는 AI 품질을 개발 완료 후 확인하는 별도의 활동으로 보지 않습니다.

설계 → 개발 → 검증 → 배포 → 운영 → 개선

전체 과정에 품질관리 기준을 적용합니다.

AI 기능을 설계할 때 예상되는 위험을 확인하고, 개발 단계에서는 보안과 권한, 데이터 보호 및 AI 통제 기준을 적용합니다. 배포 전에는 정의된 품질 기준에 따라 기능과 성능을 검증하며, 운영 과정에서 발견된 문제와 개선사항은 다시 제품 개발에 반영합니다.

이를 통해 AI 품질관리가 일회성 검증에 그치지 않고 제품의 지속적인 개선으로 이어지도록 합니다.

Enterprise AI는 결과뿐 아니라 어떻게 개발되고 변경되었는지 확인할 수 있어야 합니다.

플래티어 AI연구소는 AI 모델, 프롬프트, 지식 데이터, Agent 및 주요 정책의 변경 사항을 관리하고 필요한 개발·검증 기록을 유지합니다.

AI 기능의 변경이 품질과 안전성에 미치는 영향을 검토하고, 주요 변경 사항은 테스트와 검증을 거쳐 제품에 반영합니다.

이를 통해 문제가 발생했을 때 원인을 확인하고 필요한 조치를 수행할 수 있는 관리체계를 운영합니다.

Enterprise AI에서 중요한 것은 AI의 자율성을 높이는 것만이 아니라 기업이 AI의 행동을 관리하고 통제할 수 있도록 하는 것입니다.

XGEN은 사용자와 Agent의 권한을 구분하고, 접근 가능한 데이터와 실행 가능한 도구의 범위를 관리할 수 있도록 설계합니다.

중요한 업무와 의사결정에서는 필요한 경우 사람이 검토하고 승인할 수 있도록 하며, AI의 주요 활동을 확인할 수 있는 관리 기능을 제공합니다.

AI의 자동화 수준이 높아지더라도 최종적인 통제 권한은 기업이 유지할 수 있도록 하는 것이 XGEN의 기본 원칙입니다.

Enterprise AI에서는 모델의 성능만큼 데이터 보호가 중요합니다.

XGEN은 기업의 보안 정책과 IT 환경을 고려하여 구축할 수 있으며, 사용자 권한과 데이터 접근 범위를 기반으로 AI의 정보 접근을 관리합니다.

개인정보와 민감정보에 대한 보호 정책을 적용하고 AI가 허용되지 않은 데이터에 접근하거나 이를 부적절하게 사용하는 위험을 줄이기 위한 관리·통제 기능을 제공합니다.

특히 보안과 데이터 주권이 중요한 기업에서는 기업이 관리하는 인프라 안에서 AI를 운영할 수 있는 환경을 제공합니다.

AI는 잘못된 정보 생성, 개인정보 노출, 부적절한 콘텐츠 생성, 권한을 벗어난 실행 등 기존 소프트웨어와 다른 유형의 위험을 가질 수 있습니다.

플래티어 AI연구소는 AI 기능의 특성과 활용 목적에 따라 발생 가능한 위험을 식별하고 필요한 관리 기준과 보호 장치를 적용합니다.

개발과 검증 과정에서 발견된 위험은 개선 과제로 관리하며, 운영 과정에서 확인된 문제 역시 제품과 정책 개선에 반영합니다.

이를 통해 AI 위험을 발견하고 대응하는 것에서 나아가, 가능한 위험을 사전에 줄이는 것을 목표로 합니다.

AI 서비스에서 오류나 취약점, 예상하지 못한 동작이 확인된 경우 정해진 절차에 따라 문제를 분석하고 필요한 조치를 수행합니다.

영향 범위를 확인하고 필요한 경우 관련 고객에게 정보를 제공하며, 동일한 문제가 반복되지 않도록 제품과 개발·운영 기준을 개선합니다.

운영 과정에서 얻은 경험은 다시 제품 개발에 반영하여 XGEN의 신뢰성과 안정성을 지속적으로 높여갑니다.

플래티어 AI연구소는 XGEN 플랫폼의 품질과 안정성, 제품에 포함된 AI 관리·통제 기능, 제품 결함과 취약점 대응, 버전 관리 및 기술지원에 대한 책임을 수행합니다.

도입 고객사는 XGEN을 기반으로 구성한 AI Agent와 Workflow의 업무 적합성, 연계 데이터의 적법성과 품질, 외부 AI 모델 및 서비스의 선택, AI 결과에 대한 업무적 검토와 최종 의사결정을 담당합니다.

플래티어 AI연구소는 이러한 역할을 구분하는 데 그치지 않습니다.

고객사가 AI를 안정적으로 운영하고 각자의 관리 책임을 수행할 수 있도록 권한 관리, AI 정책, 가드레일, 감사 및 운영 관리 기능과 관련 가이드를 제공합니다.

고객이 AI를 책임 있게 운영할 수 있도록 필요한 관리·통제 환경을 함께 제공하는 것까지 플랫폼 공급자의 역할로 봅니다.
역할별 책임 범위와 연구소가 제공하는 통제 수단은 부속 A3에 표로 정리되어 있습니다.

플래티어 AI연구소는 고객에게 제시하는 AI 품질과 운영 기준을 연구소의 AI 개발과 활용 과정에도 적용합니다.

연구소 내부에서 AI를 개발하고 사용하면서 발견한 문제와 개선사항을 제품에 반영하고, 실제 운영 경험을 기반으로 관리 기준을 지속적으로 개선합니다.

이를 통해 정책과 실제 제품 운영이 분리되지 않도록 합니다.

연구소 내부의 AI 이용 기준은 별도의 「사내 AI 이용 지침서」에 정하며, 승인된 도구의 사용, 기밀·개인정보 취급, AI 산출물의 검증 책임, 생성 이력 관리를 규정합니다. 이용 현황은 반기 1회 점검하여 AI 거버넌스 위원회에 보고합니다.

우리가 직접 적용하고 검증한 기준을 제품과 함께 고객에게 제공합니다.

AI 모델과 기술, 기업의 활용 환경과 관련 규제는 계속 변화합니다.

플래티어 AI연구소는 AI 품질관리 기준과 개발·운영 절차를 지속적으로 점검하고 개선합니다.

제품 운영 과정에서 발견된 문제, 고객의 요구사항, 기술 변화와 관련 기준을 검토하여 필요한 사항을 제품과 품질관리 체계에 반영합니다.

인증은 이러한 활동의 결과를 확인하는 하나의 과정입니다.

플래티어 AI연구소가 추구하는 목표는 인증 획득 자체가 아니라, 기업이 지속적으로 신뢰하고 운영할 수 있는 Enterprise AI를 만드는 것입니다.

AI 시스템 책임자 아래에 기술지원 담당자(운영·모니터링, 장애 1차 대응, 감사 로그 점검)와 제품개발 담당자(기능 등록·변경·폐기, 권한 설정, 지식 컬렉션 품질 관리)를 두며, 세부 업무 분장은 거버넌스 운영 절차서를 따릅니다.

역할은 겸직할 수 있으나 내부감사 수행자는 AI 최고책임자·AI 품질책임자·데이터 책임자를 겸하지 않습니다. 역할별 책임자 명단은 사내 게시판 및 사내 위키를 통해 내부 이해관계자에게 상시 게시합니다.

역량 관리

AI 개발·운영·검증 및 데이터 관리 참여 인원에 대해 역할별 필요 역량을 정의하고 자격 확인 → 교육·훈련 → 역량 평가 → 재교육 주기를 운영합니다. AI 정책·윤리 교육은 대상 인원 전원이 연 1회 이상 필수 이수합니다.

AI 거버넌스 위원회 구성원 및 AI 최종 책임 주체는 AI 특유의 위험(환각, 편향, 프롬프트 인젝션, 데이터 유출, 외부 도구 연계 오남용 등)에 대한 교육을 연 1회 이상 필수로 이수합니다.

연구소의 제품은 고객사 인프라에 설치되어 고객사가 직접 운영하는 형태로 공급됩니다.

연구소가 함께 제공하는 통제 수단

개인정보 관련 문의 안내
연구소의 제품은 고객사 인프라에 설치되어 운영되므로 해당 서비스의 개인정보처리자는 도입 고객사입니다. 특정 서비스에서 처리되는 개인정보에 관한 열람·정정·삭제 등의 요구는 해당 서비스를 운영하는 고객사의 개인정보 처리방침에 따라 주시기 바랍니다. 제품이 제공하는 개인정보 보호 기능 자체에 관한 문의는 A7의 창구로 접수해 주십시오.

리스크는 발생 확률과 영향도를 평가하여 등급을 산정하며, 중점관리 대상으로 선정된 리스크는 해소될 때까지 추적 관리합니다. 허용·비허용 기준과 등급별 대응 원칙은 AI 거버넌스 위원회의 승인을 거쳐 정합니다.

AI 시스템의 위험 등급은 R1(고위험) · R2(중위험) · R3(저위험) 세 단계로 구분하며, 등급별 판정 기준과 승인 권한은 거버넌스 운영 절차서를 따릅니다. R1에 해당하는 경우 사전 영향평가와 AI 거버넌스 위원회 승인을 필수로 하고, 사람의 감독을 반드시 둡니다.

배포된 AI 시스템은 성능·품질 / 데이터·모델 / 이상탐지·알림 / 지속적 개선 네 축으로 상시 모니터링하며, 이상징후 확인 시 원인 분석과 재발 방지 대책을 수립하고 필요 시 긴급 차단(Kill Switch)으로 즉시 서비스를 차단할 수 있습니다.

“2026년 하반기”로 표시된 활동은 관련 절차와 운영체계가 확정되는 시점부터 단계적으로 시행합니다. 시행 결과는 지속적인 품질 개선에 활용합니다.

AI 거버넌스 위원회 정기 회의 안건

거버넌스 및 전략 / 리스크 관리 / 모델 및 시스템 / 데이터 품질 / 공급망 및 보안 / 사고 및 운영 / 성과 및 개선 / 교육 및 조직역량

AI 사고 대응

사고 또는 취약점 확인 시 접수 → 원인 분석 → 조치 → 영향받는 고객사 통지 → 재발 방지 대책 수립 절차를 이행하며, 처리 결과와 재발 방지 대책은 AI 거버넌스 위원회 정기 회의에서 검토·승인됩니다.

연구소는 매년 조직 목표와 제품 품질 목표를 수립하고 달성 여부를 거버넌스 기구에 정기 보고합니다. 목표는 연 1회 AI 거버넌스 위원회의 심의를 거쳐 수립합니다.

조직 정량 목표 (2026년도)

“2026년 하반기”로 표시된 지표는 관련 기준과 운영체계가 확정되는 시점부터 단계적으로 측정·관리합니다. 측정 결과는 지속적인 품질 개선에 활용합니다.

제품 품질 목표 (2026년도)

프롬프트 인젝션에 대한 완전한 방어는 현재 기술 수준에서 보장할 수 없습니다. 연구소는 방어 성공률을 공약하는 대신 모든 릴리즈에 대해 레드팀 테스트를 빠짐없이 수행할 것을 약속하며, 탐지된 취약점은 사고 대응 절차에 따라 조치합니다.

정성 목표 (2026년도)

현업이 쉽게 이해하고 활용할 수 있는 정책 제공 / 개발자 만족도 향상 / AI 위험을 사전에 발견하는 조직 문화 정착 / 데이터 활용 신뢰성 확보 / 설명 가능한 AI 확보 / 감사 대응 역량 향상 / AI 활용 문화 확산 / 고객사와 최종 사용자의 신뢰 확보

관련 법규 현황은 연 1회 이상 재검토하며, 제·개정이 있는 경우 본 방침 및 하위 문서를 개정합니다.

이해관계자 소통 창구

연구소는 도입 고객사, 고객사의 최종 사용자, 협력사·외부 모델 공급자, 규제기관, 임직원을 주요 이해관계자로 정의합니다.

접수된 의견은 정해진 수용 기준과 보고 단계에 따라 검토되며, 처리 결과는 요청자에게 회신합니다.

1. 1본 방침은 연 1회 이상 정기 검토하며, 다음의 경우 수시로 개정합니다.
   • · 관련 법령·규제(AI 기본법 등) 또는 국제표준의 제·개정
   • · 중대한 AI 사고·취약점 또는 내부감사·경영검토 결과 개선 필요 사항 도출
   • · 사업 범위, 제품 구성 또는 역할과 책임 기준의 중대한 변경
   • · 사내 AI 이용 환경의 중대한 변경
   • · 01장 품질 원칙의 이행 점검 결과 보완이 필요한 경우
2. 2개정안은 AI 거버넌스 위원회의 의결로 확정합니다 — 본 방침은 거버넌스 운영 절차서가 정한 문서 등급 L1에 해당합니다.
3. 3확정된 방침은 본 홈페이지에 상시 공개하며, 개정 시 개정 이력과 함께 즉시 갱신하여 외부 이해관계자가 최신본을 확인할 수 있도록 합니다.
4. 4내부 이해관계자에게는 사내 위키·게시판 게시 및 연 1회 이상의 필수 교육을 통해 방침과 AI 개발·활용 원칙을 지속적으로 상기시킵니다. 교육 이행 내역은 기록으로 보관합니다.

문서 체계