인간이 놓친 공격까지 학습하는 AI, 보안 훈련의 게임 체인저가 되다
6배라는 숫자, 처음엔 믿기 어려웠습니다
GPT-5.6이 2026년 7월 9일 공개되면서 OpenAI가 내놓은 수치 하나가 눈길을 끌었습니다. 가장 까다로운 프롬프트 인젝션 벤치마크에서 취약점이 이전 대비 6배 줄었다는 것입니다. 실패율은 0.05%까지 내려갔습니다. 숫자만 보면 마케팅 문구처럼 느껴질 수 있는데, 이 수치 뒤에는 GPT-Red라는 전혀 다른 방식의 보안 훈련 모형이 있었습니다. 어떤 구조인지 알면 왜 6배가 가능했는지 이해됩니다.
GPT-Red는 AI가 AI를 공격하는 모형입니다
GPT-Red는 OpenAI 내부에서 운용하는 자동 레드팀 모형입니다. 사람이 취약점을 찾는 대신, AI가 스스로 공격 시나리오를 만들고 GPT-5.6을 상대로 실제처럼 시뮬레이션합니다. 훈련 방식은 자체 놀이 강화학습으로, GPT-Red가 공격에 성공할수록 더 정교한 공격 패턴을 학습합니다. 이렇게 생성된 공격 데이터가 GPT-5.6 훈련에 그대로 투입됩니다. 공격자와 방어자가 같은 루프 안에서 함께 강해지는 구조입니다. 그렇다면 GPT-Red는 실제로 얼마나 강력한 공격자일까요.
인간 레드팀과 비교하면 격차가 큽니다
OpenAI가 내부 평가에서 GPT-Red와 인간 레드팀을 같은 시나리오로 테스트했습니다. 결과는 GPT-Red 84% 성공, 인간 레드팀 13% 성공이었습니다. 같은 공격 환경에서 AI가 사람보다 6배 이상 많은 취약점을 찾아낸 셈입니다. 이 격차가 중요한 이유는, GPT-Red가 발견한 공격 패턴이 그대로 방어 훈련 데이터로 전환되기 때문입니다. 인간이 놓친 84%에 해당하는 공격 시나리오까지 GPT-5.6이 학습한다는 의미입니다. 그런데 이 훈련에 들어간 컴퓨트 규모가 예상보다 훨씬 큽니다.
보안 훈련에 투입한 자원 규모가 다릅니다
OpenAI는 GPT-Red 훈련에 최대 규모 포스트훈련 실행과 비슷한 수준의 컴퓨트를 할당했습니다. 레드팀 작업에만 700,000 GPU 시간을 소비했습니다. 기존에는 보안 검토가 모형 출시 직전 마무리 단계에 집중됐다면, 이번에는 훈련 과정 자체에 보안 루프를 내장한 것입니다. 시뮬레이션 환경도 현실적입니다. 로컬 파일, 이메일 텍스트, 웹페이지 배너, 외부 도구 출력 등 실제 사용 환경에서 모형이 마주칠 수 있는 프롬프트 인젝션 경로를 모두 포함했습니다. 이 구조가 GPT-5.6 Sol에서 어떤 실질적 차이를 만들었는지 살펴볼 필요가 있습니다.
GPT-5.6 Sol에서 체감 가능한 변화입니다
GPT-5.6은 Sol, Terra, Luna 세 가지 변형으로 제공됩니다. 이 중 Sol은 OpenAI가 업무용 기본 모형이자 가장 우수한 코딩 모형으로 명시한 버전입니다. 프롬프트 인젝션 방어가 강화됐다는 것은 에이전트 방식으로 외부 도구나 파일을 다룰 때 악성 명령이 끼어드는 상황을 훨씬 잘 걸러낸다는 의미입니다. 특히 코드 실행이나 파일 처리처럼 실제 시스템에 영향을 주는 작업에서 차이가 납니다. 2026년 6월 26일 신뢰할 수 있는 파트너 소수 그룹에 먼저 제한 프리뷰로 공개됐고, 7월 9일 일반 공개가 완료된 상태입니다.
OpenAI가 다음에 할 일은 이미 정해져 있습니다
OpenAI는 GPT-Red에 할당하는 컴퓨트, 데이터, 알고리즘을 계속 확대할 계획입니다. 기술 세부 사항은 향후 연구 논문으로 공개 예정입니다. 지금 당장 GPT-5.6 Sol을 업무에 쓰고 있다면, 외부 소스 연동 에이전트 작업에서 이전 모형과 프롬프트 인젝션 저항력 차이를 직접 비교해보는 것이 가장 빠른 확인 방법입니다. GPT-Red 방식이 다른 모형 개발사로 퍼질지, 아니면 OpenAI만의 차별점으로 남을지가 앞으로 지켜볼 지점입니다. 실제로 GPT-5.6 Sol을 에이전트 작업에 써보셨다면, 이전 버전과 비교해 어떤 차이를 느끼셨는지 궁금합니다.
#GPT5_6 #OpenAI #GPTRed #프롬프트인젝션 #AI보안 #레드팀 #강화학습 #GPT5_6Sol #AI취약점 #보안훈련 #ChatGPT #AI에이전트 #OpenAI보안 #AI최신뉴스