우리나라는 AI 활용이 빠르게 확산되고 있지만 기업 현장의 AI 거버넌스와 보안 통제는 이에 맞춰 발전하지 못하고 있다. 오픈AI의 허깅페이스 침해사고는 AI 발전 속도를 보안·거버넌스가 따라가지 못한 대표적인 사례라고 할 수 있다. 프론티어 AI 모델 개발사조차 AI가 실제 환경에서 어떻게 활용되고 어떤 방식으로 악용될 수 있는지 충분히 예측하기 어렵다는 의미다.
올해 1월 22일 AI 기본법이 전면 시행됐지만, 일부 의무에 대해서는 최소 1년의 계도기간이 적용돼 규제 대응을 위한 보안 투자와 거버넌스 마련도 더딘 상황이다.
조성윤 넷스코프 코리아 프로는 “기업 현장에서도 AI 도입과 거버넌스의 격차가 점점 더 벌어지고 있다. AI 도입 속도를 따라가지 못하는 보안 통제로 인해 AI 서비스와 AI 애플리케이션이 새로운 공격 경로로 악용되고 있다. 기업은 AI를 어떻게 사용해야 하는지 근본적인 질문을 하고 있다”고 밝혔다.
예상치 못한 섀도우 AI로 인한 위협 발생 가능
조성윤 프로는 ‘AI·클라우드 보안 & SASE 인사이트 2026’의 ‘섀도우 AI에서 에이전틱 AI까지: 보이지 않는 위험과 통제 전략’ 세션에서 직원과 AI 에이전트가 일상적인 업무를 수행하는 과정에서 발생할 수 있는 위협 사례를 소개했다.
직원은 회의 내용을 AI로 요약하거나 보고서 초안을 작성하는데, 승인되지 않은 개인 계정으로 AI 서비스를 이용하거나 업무 데이터를 개인 클라우드 스토리지에 저장하거나 외부와 공유하면서 기업의 통제 범위 밖에서 업무를 진행할 수 있다. 이 과정에서 데이터 유출과 침해 위험이 높아진다.
개발 환경에서도 위험이 발생한다. 개발자가 디버깅을 위해 소스코드를 AI 분석 도구에 입력하면서 API 키, 자격증명 및 민감정보를 함께 전송할 수 있다. 브라우저 확장 프로그램을 이용해 AI가 이메일을 요약하거나 지시에 따라 후속 작업을 수행하는 과정에서도 의도하지 않은 데이터 접근이나 외부 전송이 발생할 수 있다.
조 프로는 “대부분의 조직은 승인된 독립형 AI만 사용하고 있다고 생각하지만 실제 환경에서는 SaaS에 통합된 AI와 통제되지 않은 섀도우 AI가 사용되고 있다. 또한 기업 데이터 기반으로 구축된 비공개 AI 앱이나 자율형 AI 에이전트 도입이 더 빨라질 것이며, 자체 개발 앱의 취약점과 지나치게 허용적인 에이전트 접근으로 인한 문제를 안게 될 것”이라고 설명했다.
섀도우 에이전트·과도한 권한, 새로운 공격 경로
AI가 기업 업무 시스템에 깊숙이 통합될수록 위험은 더욱 커진다. 특히 기업 데이터를 기반으로 구축한 비공개 AI 애플리케이션과 자율형 AI 에이전트의 활용이 확대되면 자체 개발 애플리케이션의 취약점과 에이전트에 부여된 과도한 권한이 새로운 공격 경로가 될 수 있다.
AI 에이전트는 데이터와 애플리케이션에 직접 접근하고 다른 시스템과 상호작용하기 때문에 이전과 다른 차원의 위협이 발생할 수 있다. 과도한 권한이 부여된 에이전트는 내부 데이터베이스에 광범위하게 접근할 수 있으며, 추론 과정에서 민감한 내부 정보가 외부 서비스로 전달될 가능성도 있다. 세션에서 인증정보가 재사용될 경우 계정 탈취나 권한 오용으로 이어질 수 있다. 이와 함께 가드레일 우회, 악성 프롬프트 삽입, MCP를 통한 승인되지 않은 AI 서비스 연계 등 새로운 유형의 위협도 등장하고 있다.
조 프로는 “AI 에이전트는 단순히 질문에 답하는 도구가 아니라 기업의 데이터와 애플리케이션에 접근해 실제 업무를 수행하는 주체가 되고 있다”며 “따라서 에이전트에 어떤 권한이 부여됐고 무엇에 접근하며 어떤 데이터를 주고받는지 지속적으로 확인해야 한다”고 밝혔다.
개별 보안 기술로 AI의 모든 행동 제어 못해
조 프로는 “AI로 인한 위협을 해결하기 위해 엔드포인트, 브라우저, 인라인 트래픽, API·상태 정보 등을 수집해 대응하는 솔루션이 경쟁적으로 등장하고 있다. 개별 보안 위치에서 위협을 탐지하는 데 분명한 장점이 있지만, 모든 AI 활용 행위를 포괄하지 못한다”고 지적했다.
예를 들어 브라우저 통제는 IDE 확장 프로그램이나 독립형 앱을 놓칠 수 있고, API와 애플리케이션 상태를 개별적으로 점검하는 방식만으로는 AI의 전체 활동 과정에서 발생하는 위험을 실시간으로 파악하고 통제하기 어렵다. 따라서 단순히 ‘직원이 AI에 민감 정보를 입력하는 행위’를 넘어 SaaS 내장 AI, 비공개 AI, 자율 AI 에이전트 및 MCP 통신까지 확장되는 전체 라이프사이클을 통제해야 한다.
조 프로는 “AI 보안 기술을 선택할 때 해당 기술이 어디에서 통제되는지, 어떤 AI 활용 사례를 포함하는지를 확인해야 한다”며 “에이전트가 구동되는 엔드포인트뿐 아니라 BYOD, 외부 협력업체, 모바일 기기 등 기업 네트워크에 접속하지만 관리되지 않는 영역까지 가시화해야 한다”고 말했다.
넷스코프, AI 자산 탐지부터 런타임 보호까지 통합
넷스코프는 이러한 문제에 대응하기 위해 단일 플랫폼 ‘넷스코프 원(Netskope One)’ 기반의 ‘AI 시큐리티(AI Security)’를 제시한다. 단일 플랫폼에서 AI 생태계 전반의 가시성을 확보하고(Discover), AI 파이프라인을 보호하며(Secure), 런타임 상호작용을 보호(Protect)하는 방식으로 AI 환경에 제로 트러스트 기반의 보안 통제를 적용한다.
이 플랫폼에서 제공하는 ‘AI 커맨드 센터(AI Command Center)’는 SaaS, 에이전트, LLM, 엔드포인트 등의 AI 자산 탐지부터 위험 요소 발굴, 권한 회수 및 정책 적용 등의 조치까지 단일 워크플로우로 통합 관리한다.
이외에도 에이전틱 브로커, AI 게이트웨이, AI 가드레일과 레드티밍, 엔드포인트·서버 워크로드 AI 디스커버리, AI SecOps 에이전트 등의 기능을 추가해 기업에서 사용하는 AI에 대한 종합적인 보안 기능을 제공한다. 또한 넷스코프 원의 제로 트러스트 엔진을 이용해 에이전트에 대한 지속적인 평가와 검증을 진행한다.
AI가 활동하는 모든 지점에 제어 기술 적용
조 프로는 “넷스코프는 AI가 실제 업무 환경에서 활동하는 다양한 접점에 보안 통제를 적용한다”고 설명했다.
에이전트가 구동되는 엔드포인트에서 어떤 정보를 확인하고 어떤 작업을 수행하는지 파악하고며, BYOD와 외부 협력업체, 모바일 등 기업 네트워크에 접속하지만 관리되지 않는 영역도 가시화한다. 에이전트의 업무 기반이 되는 브라우저에서도 웹 콘텐츠 렌더링, 붙여넣기, 다운로드 등을 통제하고 두꺼운 클라이언트와 모바일 앱 등 다양한 접근 경로를 확인하고 제어한다. 사용자와 AI 서비스 사이에 프록시를 구축해 관리되지 않은 기기의 접근을 차단하고, AI 서비스 또는 클라우드 계정의 보안 상태도 확인한다.
조성윤 프로는 “에이전트가 활동하는 모든 지점에서 제어해야 하며, AI 활용과 구축, 호스팅, 에이전틱 AI 등 다양한 활용 사례를 포괄하는 보안이 필요하다”며 “넷스코프 단일 플랫폼은 AI 생태계 전반에서 완벽한 가시성과 검색 기능을 제공하며 AI 파이프라인을 엔드투엔드로 보호한다. 성능을 고려해 설계된 컨텍스트 인식 제로 트러스트 제어 기능을 통해 AI 속도 저하 없이 AI를 관리할 수 있다”고 밝혔다.
그는 “넷스코프 원 AI 시큐리티는 NG-SWG와 지능형 분석을 기반으로 생성형 AI 앱에 대한 인라인 제어, 실시간 DLP 정책, 현황 및 위협 분석을 기본으로 제공한다. AI 자산·위험 파악부터 복잡한 위협 경보의 분류 및 대응 자동화까지 체계적으로 관리해 AI 생태계 전반을 보호한다”고 밝혔다.
