에이전트형 AI가 더 오래 탐색하거나, 추가 지원을 받거나, 제안·검증 방식을 바꿔 성능을 높이는 세 가지 메커니즘을 성능 점수만으로는 구분할 수 없다는 문제에서 출발한 이론 연구다. 저자들은 숨겨진 터미널 무작위성을 가진 '경계 검증' 틀을 정의하고, 독립적 다수결 증폭은 검증 가능 언어 클래스를 보존하지만 무작위 테이프에 대한 존재적 수용은 틀린 출력을 허용할 수 있음을 증명했다. 무작위화 검증자 클래스는 다항식 계층과 Σ_k^P ⊆ Σ_k^RV ⊆ Σ_{k+1}^P 관계를 만족하며, 엄격한 확장과 깊이 분리에는 명시적 복잡도 가정이 필요하다고 밝혔다. 재귀적 자기개선의 경우 공통된 건전한 해석기와 고정된 검증 프로토콜 아래 균일하게 제한된 자기수정은 동일한 검증 클래스 안에 머문다는 결론을 제시한다. 이 틀은 자기개선 주장을 정확성·허용 가능한 증거·검증 자원·선택 오류에 대한 구체적 의무로 연결한다.
- •탐색 연장·추가 지원·검증 방식 변경이라는 세 자기개선 메커니즘을 성능 점수만으로 구분 불가능하다는 문제 제기
- •숨겨진 터미널 무작위성을 가진 '경계 검증' 이론 틀 정의
- •독립적 다수결 증폭은 언어 클래스를 보존하지만 존재적 수용은 오답을 허용할 수 있음을 증명
- •무작위화 검증자 클래스가 Σ_k^P ⊆ Σ_k^RV ⊆ Σ_{k+1}^P 관계를 만족함을 규명
- •균일하게 제한된 재귀적 자기수정은 동일 검증 클래스 내에 머문다는 결론
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
Verification and Self-Improvement in Agentic AI: Foundations and Limits
- 1.에이전트 개선 기법(탐색 연장·추가 지원·검증 변경)을 복잡도 이론의 검증 프레임워크로 통일 비교
- 2.독립적 다수결 증폭은 정답 언어를 보존하지만, 무작위 테이프의 '존재적 수용'은 오답을 허용할 수 있음을 증명
- 3.무작위화 검증자 클래스가 Σk^P⊆Σk^RV⊆Σk+1^P 관계를 만족, 엄격한 확장엔 명시적 가정 필요
- 4.동일한 건전 해석기·고정 검증 프로토콜 아래 균일 제한된 자기수정은 같은 검증 클래스에 머문다고 증명
왜 중요한가?
에이전트의 자기개선이 실제로 정답성을 보장하는지 수학적으로 따질 기준을 제공해, '재귀적 자기개선'을 둘러싼 근거 없는 낙관이나 공포를 복잡도 이론으로 검증 가능하게 만든다.
본문 미리보기
arXiv:2610.10611v1 Announce Type: new Abstract: Agentic AI systems can improve by searching longer, receiving additional support, or modifying how they propose and verify outputs. A performance score does not distinguish these mechanisms. We compare these changes through bounded verification with hidden terminal randomness. A stage specifies admissible transcripts, polynomial bounds, an alternating verification protocol, and a terminal checker. Its native reach uses default support; its closure
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 10:40AI 초안



![[Tech Insight] "AI 해킹, 보안 문제로만 보는 건 위험한 착각"](https://cdn.digitaltoday.co.kr/news/photo/202610/706229_653947_485.jpg)