클라우드 보안 연합(CSA) 조사에서 IT·보안 전문가 63%가 AI 활용에 있어 데이터를 외부와 과도하게 공유하고 있다는 우려를 밝혔다.
실제로 민감한 데이터가 유출되는 심각한 사고가 발생하고 있다. 이커머스 서비스의 챗봇이 내부 상품 리스트 데이터에 접근해 소비자에게 공개되지 말아야 할 내부 가격과 제품 정보가 노출된 사고가 일어났다. 외부에서 호스팅되는 챗봇 애플리케이션에 사내 기밀 정보를 업로드해 민감 데이터가 외부로 유출됐으며, 법무법인에서 재판과 관련한 정보를 찾으면서 민감한 소송 관련 데이터를 프롬프트에 입력하면서 유출되는 사고도 발생했다.
AI 사용 중 데이터 위협을 막기 위해 고급 데이터 유출 방지(DLP)와 데이터 보안 태세관리(DSPM)가 제안된다. AI 프롬프트를 모니터링하면서 사용자가 민감한 데이터를 입력하지 못하게 제어하며, AI 출력값에서도 사용자에게 권한이 없는 데이터가 노출되지 않도록 한다. 또한 DSPM으로 모든 데이터를 정확하게 분류하고, 정책을 적용해 LM 학습이나 프롬프트 처리 시 민감 정보가 무단으로 유입되는 것을 차단한다.
넷스코프가 강화된 데이터 보호 역량을 SASE 플랫폼에 통합시키면서 AI 보안 수준을 한층 높였다. 넷스코프는 데이터가 유출될 수 있는 모든 채널에서 민감·중요 데이터를 통제하며, 사용자 입력을 모니터링해 중요 데이터가 업로드되지 않도록 한다. DSPM을 통해 구조화·비구조화 데이터를 분류하고 정책을 적용하며, 데이터 중독, 지식유출 방지, 규제준수를 지원한다.
넷스코프 SASE 플랫폼 ‘넷스코프 원’은 자체 구축한 클라우드 컨피던스 인덱스(CCI)를 통해 8만2000여개의 SaaS, 370여개의 생성형 AI 앱을 분석하고, 제로 트러스트 원칙에 따라 각 앱의 데이터 사용 방식, 제3자 공유 여부, 보안 준수 상태 등을 기준으로 위험을 정량화하며, 이를 바탕으로 허용-차단 정책을 결정한다.
넷스코프 조사에 따르면 생성형 AI 앱의 72%가 개인계정으로 접근하고 있으며, 보안 사각지대가 될 수 있다. 넷스코프는 이를 자동으로 탐지하고, 엔터프라이즈 AI 도구로 유도하는 정책을 적용한다. 섀도우 IT 감시, SaaS 모니터링, 계정 및 개인정보 유출 차단 등의 보안 기능으로 모든 환경을 보호한다.