AI가 PC를 대신 만지는 순간, 보안의 질문은 편의가 아니라 허락의 범위가 된다
내 PC를 AI가 직접 조작한다고요?
윈도우 11 AI 에이전트 기능이 왜 논란인가, 한 문장으로 정리하면 '편의성을 위해 AI에게 PC 제어권을 넘기는 것이 안전한가'입니다. 마이크로소프트는 2025년 5월 6일 윈도우 11 설정 앱에 AI 에이전트를 추가하겠다고 공식 발표했습니다. 사용자가 '블루투스 연결해줘'라고 말하면 AI가 설정을 찾아 직접 바꿔주는 방식으로, 편리함은 분명하지만 그 이면의 위험성이 조용히 쌓이고 있습니다.
Settings Mu부터 Copilot Actions까지, 기능이 이렇게 넓어졌습니다
설정 에이전트는 'Settings Mu'라는 경량 온디바이스 모델을 사용하며, 윈도우 11 24H2와 KB5062660 업데이트 이후 Copilot+ PC에서 제공됩니다. 한국어도 지원 언어에 포함돼 있습니다. 더 큰 논란의 축은 2025년 11월 17일 윈도우 인사이더에 배포된 Copilot Actions입니다. 파일 정리, 문서 업데이트, 이메일·예약 대행까지 수행하는 능동형 에이전트로, Agent Workspace라는 격리 작업공간에서 로컬 파일과 앱을 직접 다룹니다.
Recall 논란이 왜 다시 떠오르는 걸까요
이 불신은 Recall 논란의 연장선입니다. Recall은 화면을 주기적으로 스냅샷으로 저장해 과거 작업을 검색하게 하는 Copilot+ PC 기능인데, 2024년 6월 18일 광범위 프리뷰 예정이었다가 보안·프라이버시 비판 이후 윈도우 인사이더 선공개로 변경됐습니다. 이후 opt-in, 암호화, 앱·웹사이트 필터, 삭제 기능이 추가됐고 2025년 4월부터 Copilot+ PC에 배포가 시작됐습니다. AI 에이전트가 확장될수록 Recall에 쌓인 불신도 함께 소환되고 있습니다.
프롬프트 인젝션, 마이크로소프트도 인정한 위험입니다
마이크로소프트 자신도 '교차 프롬프트 인젝션' 위험을 공식 언급했습니다. 문서, 웹페이지, UI 안에 숨은 악성 지시가 AI 행동을 오염시킬 수 있다는 뜻입니다. 이 경우 의도치 않은 데이터 유출, 잘못된 파일 조작, 악성코드 설치 같은 피해가 발생할 수 있습니다. 2026년 현재 가짜 신원 공격이 195% 증가하고 제로데이 공격이 8시간 만에 실행되는 환경에서, AI 에이전트가 PC 제어권을 쥔다는 것은 공격 표면이 그만큼 넓어진다는 의미이기도 합니다.
마이크로소프트의 대응, 충분할까요
마이크로소프트는 별도 에이전트 계정, 제한 권한, 서명된 신뢰 에이전트, 격리 작업공간, 사용자 투명성·동의 모델을 내세우고 있습니다. 설정 에이전트는 사용자의 명시 요청 없이는 설정을 바꾸지 않고 변경 후 되돌리기도 제공한다고 밝혔습니다. IT 관리자는 Intune, CSP, GPO로 설정 에이전트를 비활성화할 수 있습니다. 다만 마이크로소프트 스스로 '실험 기능이라 실수하거나 복잡한 인터페이스에서 어려움을 겪을 수 있다'고 명시한 만큼, 현재 수준의 보호가 충분한지는 여전히 열린 질문입니다.
지금 당장 확인해야 할 것 한 가지
윈도우 11 AI 에이전트 기능이 왜 논란인가의 핵심은 결국 '내가 허락한 것보다 AI가 더 많이 할 수 있는가'입니다. 지금 당장 확인할 행동은 하나입니다. 내 PC가 Copilot+ PC인지, 윈도우 11 24H2 + KB5062660 업데이트가 적용됐는지 확인하고, 설정 앱에서 AI 에이전트 관련 권한이 어떻게 설정돼 있는지 직접 점검해 보시길 권합니다. Recall과 Copilot Actions 각각의 opt-in 여부를 별도로 확인하는 것이 현재 가장 현실적인 자기 방어입니다.
#윈도우11 #AI에이전트 #코파일럿 #Recall #CopilotActions #윈도우보안 #프라이버시 #마이크로소프트 #SettingsMu #AgentWorkspace #CopilotPC #윈도우인사이더 #AI보안