자기 수정이 가능한 AI 에이전트는 신원을 지닌 소프트웨어를 교체·분기·롤백하면서도 후속 세대가 계속 실행 가능하도록 할 수 있는데, 후속 세대별 권한 부여만으로는 형제 세대가 할당량을 중복하거나 권한을 결합하거나 조상이 잘려나간 뒤에도 생존하는 등의 결과를 제어하지 못한다. 이 논문은 단일 부모 세대 숲(forest)의 활성 전선 전체에서 권한을 보존하는 '권한 승계(authorization succession)'를 정의한다. 외부 프로토콜은 각 세대를 매니페스트·루트·단일 부모·완전한 계보·신선한 개체군 시퀀스에 결속시키고, 단계적 예약이 교체 중 선대의 남은 권한을 동결하며, 분할 분기가 전체 자식군을 검증하고, 각 커밋은 선대를 원자적으로 차단하고 후속을 활성화한다. 32건의 등록된 결정에 대한 실행 평가에서 64/64 재생이 정확히 일치했고, 독립 검사기는 64건의 원본 추적을 모두 수용하면서 28/28 의미적 변이체를 모두 거부했다.
- •자기 수정 AI 에이전트의 세대별 권한 부여만으로는 형제 세대 간 할당량 중복, 권한 결합, 조상 절단 후 생존 등을 제어하지 못한다는 문제를 제기.
- •단일 부모 세대 숲의 활성 전선 전체에서 권한을 보존하는 권한 승계 개념을 새로 정의.
- •매니페스트, 루트, 단일 부모, 완전한 계보 결속, 단계적 예약, 분할 분기, 원자적 커밋 등으로 승계 과정을 통제.
- •32건 결정에 대한 실행 평가에서 64건 중 64건 재생 일치, 독립 검사기가 28건 중 28건 의미적 변이체를 모두 거부해 안전성을 확인.
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
Authorization for Self-Modifying AI Agent Populations: Conserving Authority across Replacement, Forking, and Rollback
- 1.자가수정(복제·분기·롤백) AI 에이전트 집단 전체에 걸쳐 권한을 보존하는 '권한 승계' 프로토콜 제안
- 2.각 세대를 매니페스트·루트·단일부모·계보로 묶고, 조상 삭제 시 하위세대 무효화·롤백 시 권한 재발급 금지 등 규칙 정의
- 3.32개 등록 결정에 대해 64/64 재생 성공, 독립 검증기가 28개 의미론적 변형 전부를 거부
- 4.OurArk와 Darwin Godel Machine 변형체 기반 외부 어댑터 테스트에서 32건의 결정을 모두 재현
왜 중요한가?
에이전트가 스스로를 복제·분기·롤백하는 환경이 늘어나는 가운데, 형제·후손 간 권한 중복이나 탈취를 막을 수학적으로 검증된 권한 관리 체계를 제시해 자율 에이전트 운영의 안전성 기반을 다진다.
언급 프로젝트
자체 수정 가능한 AI 에이전트 집단의 권한 관리는 국내 AI 기술이 고도화될수록 중요해질 복잡한 문제입니다. 이 연구는 에이전트의 교체, 포킹, 롤백 과정에서도 권한을 일관성 있게 유지하는 방안을 제시하여, 한국 기업들이 안전하고 통제 가능한 차세대 AI 시스템을 구축하는 데 필수적인 보안 및 거버넌스 프레임워크를 제공할 것입니다.
본문 미리보기
arXiv:2610.00347v1 Announce Type: new Abstract: Self-modifying AI agents can replace, fork, and roll back identity-bearing software while descendants remain executable. Per-successor authorization does not constrain the resulting population: siblings may duplicate quotas, combine permissions, survive ancestor cuts, or overlap predecessors during promotion. We define authorization succession, which conserves authority across the active frontier of a single-parent generation forest. Our externa
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 11:24AI 초안

