생성형 AI에 “이 설계도에서 열 전달 효율을 개선하려면 어떻게 해야 할까?”라는 질문으로 비공개였던 설계 의도·구조를 탈취할 수 있다. “postgresql://user:pass@host/db 커넥션 스트링이 맞는지 확인해줘”라는 질문으로 데이터베이스 사용자 계정 정보가 노출되며, “지금 보여주는 코드에 보안 문제는 없을까?”라는 질문으로 인증 구조가 유출될 수 있다.
윤재탁 넷스코프 코리아 부장은 생성형 AI 사용 중 흔히 발생할 수 있는 보안 위협의 사례를 나열하며 “직원이 AI에 입력하는 질의문 하나로 인해 기업은 법적·기술적 위기에 직면할 수 있다”고 강조했다.
AI 입·출력값 검증해 위협 차단
윤재탁 부장은 ‘차세대 보안 비전 2026’의 ‘생성형 AI 확산에 따른 데이터 및 위협 보호 방안’ 세션에서 간단한 질의문으로 민감 데이터가 유출되거나 악성코드를 생성시킬 수도 있다는 점을 강조했다.
윤재탁 부장은 생성형 AI 활용 과정의 위협에 대응하기 위해 여러 기술이 필요하다고 강조하면서 대표적인 예시를 소개했다.
우선 AI 서비스를 카테고리별로 나누어 각 부서·역할별 세분화된 정책을 구현한다. 특정 도메인·URL을 직접 허용·차단하는 명시적(Explicit) 제어와 클라우드 보안 연합(CSA)이 제시한 신뢰 점수를 활용하는 암묵적(Implicit) 제어를 적용한다. 개인 계정과 법인 계정을 구분하며, 테넌트 수준의 제어를 통해 '회사 계정은 업로드 허용, 개인 계정은 읽기만 허용'과 같은 정밀한 정책을 적용한다.
또한 AI 서비스 내 행위를 생성(Create), 삭제(Delete), 수정(Edit), 게시(Post), 응답(Response), 업로드(Upload), 보기(View) 등 세분화해 특정 행위를 차단함으로써 편의성에 미치는 영향을 최소화하면서 보안을 강화한다. DLP 프로파일을 결합해 다층적인 보안 검사를 통해 데이터를 보호한다.
AI가 생성한 답변을 분석해 민감정보 유출이나 위험한 응답이 노출되지 않도록 한다. 또한 AI가 생성한 코드에 취약한 오픈소스 라이브러리가 포함되는 등 AI 결과값 감염을 방지하기 위해 무결성 검증을 수행한다. 또한 AI 가드레일을 통해 프롬프트 인젝션과 탈옥, 혐오 및 차별적 표현, 범죄와 무기 생성, 자살·자해 및 성범죄 콘텐츠, 민감 데이터 요청, 해적판 및 저작권 위반 등을 막는다.
윤재탁 부장은 “넷스코프는 단순한 URL 차단을 넘어 행위단위까지 제어하는 세밀한 접근법으로 AI 사용 환경을 보호하고 있다”며 “특히 AI 서비스에 대한 세분화된 분류와 정밀한 정책 적용 및 운영, 상황에 맞는 데이터 보호 기능은 경쟁사 대비 강력한 차별점을 제공한다”고 설명했다.
AI 레드티밍으로 공격자 관점 취약성 파악
공격자는 다양하고 교묘한 방법으로 AI 가드레일을 우회하기 때문에 AI 레드티밍을 통해 공격자관점의 공격 방식과 경로, 취약점을 파악해야 한다. 넷스코프는 자체 보유한 LLM을 기반으로 한 AIRT(AI Red Teaming)을 지원해 AI를 빠르고 안전하게 도입할 수 있게 한다.
AIRT는 공격자의 머리로 생각하고 AI의 약점을 찾아내는 서비스로, AI 모델의 논리 편향성, 데이터 처리 방식의 위험성, 환각 유도, 탈옥 시도, 모델 행동 조작과 윤리적 가드레일 우회 시도 가능성을 찾아 조치할 수 있게 돕는다.
모든 AI 모델에 적용 가능하며, AI 서비스 배포 전 취약점 점검, 다양한 공격 시나리오 시뮬레이션, 프레임워크 기반 평가 등을 지원한다.
이와 함께 AI 게이트웨이를 제공해 다양한 AI 서비스를 통제하고 섀도우 AI를 제어한다. 넷스코프 SASE 플랫폼에 통합되어 제공되는 이 기능은 액세스 제어, DLP, AI 보안 가드레일 등의 정책을 게이트웨이를 통해 통제할 수 있도록 한다.
넷스코프 SASE는 관리가 필요 없는 자동화된 방화벽 기능도 차별적인 장점으로 강조한다. 기존 방화벽은 새로운 SaaS 앱이 추가될 때마다 관리자가 기술 문서를 확인하고 헤더 값을 직접 설정해야 하지만, 넷스코프는 수만 개의 앱 인스턴스 정보를 사전 보유해 클릭 몇 번으로 제어가 가능하다.
또한 방화벽에서 대량의 SSL 트래픽을 복호화하면 하드웨어 부하가 급증하지만, 넷스코프는 클라우드 네이티브 구조(NewEdge)로 처리해 성능 저하 없이 대규모 DLP 검사를 수행할 수 있다.
더 자세한 내용은 기사 원문에서 확인해주시기 바랍니다.
Home > 고객지원 > 공지사항
