AI가 답변을 넘어 클릭하기 시작하면, 보안의 기준은 성능이 아니라 허용된 행동의 경계가 된다
행동하는 AI, 보는 AI와 뭐가 다를까요
윈도우11 AI 에이전트 보안 위험이 갑자기 화제가 된 건 단순한 챗봇 문제가 아닙니다. 2025년 11월 17일 마이크로소프트가 Windows Insider에 배포한 Copilot Actions는 사용자가 자연어로 지시하면 파일을 옮기고 앱을 클릭하고 웹을 조작합니다. 읽고 답하는 AI가 아니라 직접 실행하는 AI라는 점이 핵심입니다. 그래서 뭐가 문제냐고요? 권한이 생긴 순간 실수도, 공격도 현실 작업으로 연결됩니다.
Copilot Actions가 실제로 하는 일은 무엇인가요
Copilot Actions는 Agent Workspace라는 격리 환경에서 실행됩니다. 다운로드 폴더 정리, PDF 정보 추출, 파일 형식 변환처럼 반복 작업을 자연어 한 줄로 처리해줍니다. 마이크로소프트는 정책 제어·감사 로그·격리 실행을 갖췄다고 설명합니다. 그러나 에이전트가 클릭·입력·스크롤을 사람처럼 수행하고 로컬 파일에 직접 접근한다는 사실은 변하지 않습니다. 편리함의 이면에 읽기·쓰기 권한이 항상 따라붙습니다.
XPIA, 이름도 낯선 이 공격이 왜 무서운가요
마이크로소프트 공식 문서가 직접 언급한 위험이 바로 XPIA, 즉 cross-prompt injection입니다. 악성 문구를 문서·웹페이지·UI 요소 안에 숨겨두면 AI가 그것을 지시로 오인해 데이터 유출이나 악성코드 설치 같은 행동을 실행할 수 있습니다. 사용자는 아무것도 클릭하지 않았는데 에이전트가 대신 움직인 셈입니다. 윈도우11 AI 에이전트 보안 위험의 핵심은 바로 이 지점, 즉 신뢰할 수 없는 콘텐츠가 AI의 지시 체계를 덮어쓸 수 있다는 구조적 허점입니다.
Recall 논란부터 지금까지, 위험은 쌓여왔습니다
이번이 처음이 아닙니다. Copilot+ PC의 Recall 기능은 화면을 지속 기록해 검색하는 기능으로 소개됐다가 프라이버시 우려로 opt-in 방식, 암호화, Windows Hello, VBS 보안 설계를 추가했습니다. 2024년 9월 27일 보안 아키텍처 업데이트, 2025년 4월 25일 일반 제공 발표, 2026년 6월 2일 MXC SDK 업데이트까지 마이크로소프트는 계속 보완하고 있습니다. 그런데 Recall이 보는 AI였다면 Copilot Actions는 행동하는 AI입니다. 반응이 더 민감할 수밖에 없습니다.
마이크로소프트 스스로 AI로 취약점 28개를 찾았습니다
흥미로운 사실이 있습니다. 마이크로소프트 연구팀이 AI를 활용해 Windows COM 취약점 28개를 직접 발견했고, 그 중 16개가 CVE로 등록됐으며 버그바운티로 14만 달러를 수령했습니다. AI가 방어 도구로 쓰인 성과이지만, 같은 자율성이 공격자에게도 열려 있다는 방증이기도 합니다. 윈도우11 AI 에이전트 보안 위험의 본질은 기술 자체가 아니라 그 기술에 최소권한, 격리, 사용자 승인, 감사 가능성을 얼마나 촘촘히 씌우느냐에 달려 있습니다.
지금 당장 확인해야 할 설정 한 가지는 무엇인가요
2026년 7월 13일 현재 Copilot Actions는 실험적 프리뷰 상태입니다. 일반 사용자라면 Windows 설정에서 Copilot Actions 권한 범위와 Agent Workspace 접근 허용 여부를 직접 확인하는 것이 첫 번째 행동입니다. 기업 관리자라면 Microsoft 365 관리 센터에서 정책 기반 제어와 감사 로그 활성화 여부를 점검해야 합니다. AI가 무엇을 할 수 있느냐보다 해서는 안 되는 일을 얼마나 확실히 막느냐, 그것이 앞으로 윈도우11의 진짜 경쟁력이 될 것입니다.
#윈도우11보안 #CopilotActions #AI에이전트보안 #윈도우11AI #프롬프트인젝션 #XPIA #마이크로소프트보안 #AgentWorkspace #Copilot보안위험 #윈도우보안설정 #CopilotPlus #AI사이버보안 #윈도우11위험