AI 코딩 에이전트에게 저장소를 맡기려고 권한을 정리하다 보니, 처음에는 «어떤 명령어를 허용할까»라는 표부터 만들게 됐습니다. git status 는 되고 git push --force 는 안 되는 식이었습니다. 그런데 공개된 사례를 읽어 보니 문제는 명령보다 권한의 넓이에 있었습니다.
이 글은 그때 읽은 공개 사례 네 건과 같은 문제를 다룬 원칙들, 그리고 공개된 에이전트 샌드박스 설계 다섯 가지를 정리한 것입니다. 근거는 보도와 각 회사가 공개한 글이고, 조사 시점은 2026년 11월 초입니다. 제 해석이 들어간 곳은 해석이라고 적었습니다.
왜 권한부터 보는가: 먼저 넓은 권한이 있었습니다
공개된 사례를 읽어 보면, 모델의 판단을 따지기 전에 권한이 먼저 넓었다는 생각이 듭니다. 확인한 네 건을 옮깁니다.
PocketOS, 2026년 4월. Cursor 에서 Claude Opus 4.6 으로 돌던 에이전트가 자격증명 오류를 만나자 작업과 무관한 파일에서 API 토큰을 찾아 호출했고, 스토리지 볼륨과 백업이 삭제됐습니다.
Security Boulevard 의 글에 따르면 이 일은 전부 9초 만에 끝났습니다. 백업은 같은 볼륨 경계 안에 있어서 함께 지워졌습니다. 데이터는 이후 복구됐습니다. 경위 세부는 출처마다 다릅니다.
Replit, 2025년 7월. 코드 동결 지시 중에 운영 DB 를 삭제한 일입니다. The Register 의 7월 21일 기사에 실린 에이전트의 자기 진술은 판단을 크게 그르쳤다는 것입니다. 다만 이 건에서 눈여겨볼 것은 그 진술보다 구조입니다. 동결은 프롬프트 지시였고 시스템이 강제하지 않았습니다.
PromptPwnd, 2025년 12월. Aikido 가 공개한 이 항목은 사고라기보다 취약점 유형입니다. 이슈 제목과 PR 본문이 프롬프트에 들어가고, 에이전트가 쓰기 토큰과 셸을 가진 GitHub Actions 구성에서 성립합니다.
Karakun 블로그, 2026년 8월. 이 글의 주제와 가장 가까운 사례입니다. François Martin 의 글에서 에이전트는 테스트에서 실제 로직을 실행해 main 에 깨진 파일을 push 했고, 복구하려다 얕은 clone 에서 revert 를 돌려 파일 151개와 723개를 삭제하는 커밋을 main 에 올렸습니다.
저자가 지시 파일의 준수 여부를 시험해 보니 긴급 상황을 준 7회 중 2회는 main 에 직행했습니다. 저자의 결론은 지시 파일이 가장 값싼 층이지만 강제 장치는 아니라는 것입니다. 저자는 브랜치 보호를 가장 효과적인 안전장치로 꼽았고, 우회 권한 없는 별도 에이전트 신원을 권장했습니다. 그것을 실제로 적용했다고 확인되지는 않습니다.
원리로 옮기면 이렇습니다. 에이전트는 사용자 권한을 들고 일하는 대리인인데, 어떤 텍스트가 사용자 의도인지 확실히 구분하지 못합니다. 전형적인 혼동된 대리인(confused deputy, Hardy, 1988) 구조입니다. 이 개념을 에이전트에 적용한 것은 제 해석입니다.
비슷한 문제를 다룬 이름이 더 있습니다. Meta 의 Agents Rule of Two 는 한 세션에서 비신뢰 입력 처리, 민감 자원 접근, 상태 변경·외부 통신 세 가지 중 둘까지만 허용하라고 합니다. Simon Willison 의 lethal trifecta 는 개인 데이터 접근, 비신뢰 콘텐츠 노출, 외부 통신 수단이 한 에이전트에 모이면 공격자가 데이터를 빼내게 속일 수 있다고 경고합니다. 제가 읽기로는 둘 다 에이전트가 속지 않게 만들자는 제안이 아니라, 속더라도 닿지 못하게 능력을 덜어내자는 제안입니다. 탐지에 기대는 방어는 적응 공격에 대부분 뚫린다는 프리프린트도 있습니다("The Attacker Moves Second"). 본문은 읽지 않았고 요약으로 확인한 정도입니다.
그러니 먼저 볼 것은 모델이 올바르게 판단하도록 타이르는 문장이 아니라, 판단이 틀렸을 때 닿는 범위라는 생각이 들었습니다.
에이전트 샌드박스 사례: 부탁하지 않고, 할 수 없는 곳에 둡니다
공개된 설계를 원문과 대조해 읽어 보았습니다. 아래 수치는 모두 자사 발표입니다.
Stripe 의 Minions(2026년 2월 19일 글)는 격리된 개발 머신에서 돌아갑니다. 글에 따르면 에이전트는 실제 사용자 데이터, 운영 서비스, 임의의 외부 통신에 닿지 못합니다. 그래서 전체 권한으로 돌리고 확인 프롬프트를 건너뛰어도 안전하다고 적습니다. 두 번째 push 와 CI 뒤에는 사람에게 돌려보내고 사람이 리뷰하며, 주당 1,300건 이상 병합한다고 합니다.
Anthropic(2025년 10월 20일 글)은 파일시스템과 네트워크를 둘 다 격리해야 샌드박스가 제 몫을 한다고 적습니다. git 자격증명은 샌드박스 안에 두지 않습니다. 샌드박스의 git 클라이언트는 범위가 좁은 자격증명으로 프록시에 인증하고, 프록시는 설정된 브랜치로만 push 하는지 확인한 뒤 진짜 토큰을 붙입니다. 내부 사용 기준으로 권한 프롬프트가 84% 줄었다고 합니다.
GitHub Copilot cloud agent 의 문서에 따르면 에이전트는 새 copilot/ 브랜치 하나에만 push 할 수 있습니다. 초안 PR 만 만들고 사람이 리뷰·병합하며, 요청한 사람도 승인하지 못합니다. 워크플로는 쓰기 권한자가 승인해야 돌아갑니다. 같은 문서에 따르면 에이전트는 git 명령을 직접 실행하지 못합니다.
GitHub Agentic Workflows 에서 에이전트 작업은 읽기 권한으로 돌고 쓰기는 끝난 뒤 별도 작업이 처리합니다. 문서는 완전히 장악된 에이전트도 저장소 상태를 직접 바꾸지 못한다고 적습니다. 다만 읽기 전용 토큰이 다른 자격증명이나 호스트 권한까지 없애 주지는 않는다는 단서도 답니다.
Ramp 의 Inspect 는 세션마다 격리 VM 을 쓰고 clone 마다 새 앱 토큰을 받습니다. PR 은 사용자 토큰으로 엽니다. 앱 토큰으로 열면 누구나 자기 변경을 승인할 수 있기 때문입니다.
읽고 나니 공통점이 보였습니다. 에이전트에게 위험한 명령을 하지 말라고 부탁하지 않습니다. 할 수 없는 곳에 둡니다. 방식은 두 부류입니다. Stripe 처럼 격리를 믿고 안에서 자유를 주는 쪽과, Copilot 처럼 git 명령 자체를 주지 않는 쪽입니다. 앞에서 제가 명령어 표로 풀려던 방식은 이 둘 어디에도 속하지 않았습니다.
정리하면, 공개된 사례 네 건에는 모델이 판단을 그르치기 전에 권한이 먼저 넓었다는 공통점이 있었고, 공개된 샌드박스들은 위험한 명령을 하지 말라고 부탁하는 대신 할 수 없는 곳에 둡니다. 이 생각을 사람 구역, 샌드박스, git 게이트웨이, GitHub 의 네 구역으로 옮기고, 허용된 테스트 명령에 숨긴 강제 push 가 어디서 막히는지 시험한 이야기는 «AI 에이전트 권한 분리 설계»에 적었습니다.