자율 AI 에이전트가 수행한 행동을 제3자가 독립적으로 검증할 수 있도록, 연구진은 변조 불가능하고 재실행 가능하며 공유 가능한 감사급 실행 증거 시스템 NovaFabric을 제안했다. 에이전트 로직을 수정하지 않고 실행 과정을 15개 엔티티 스키마의 '실행 캡슐'로 기록하며, DSSE 서명·RFC 3161 타임스탬프·머클 로그·redaction 증명으로 봉인하고, 4가지 모드의 재실행 프로토콜과 증거 묶음 내보내기로 제3자 검증을 지원한다. 8개 연구 질문에 대한 실측 평가에서 모의 재생은 모델 응답을 캡슐에서 100% 재현했지만 도구 사용 워크로드는 10건 중 2건만 완료됐고(도구 응답 대체 기능 부재가 원인), 변조는 3개 클래스 전부 탐지됐으며 자격증명 14종 전부를 마스킹하면서 디코이 9종은 보존했다. 314대 규모 10개 리전 테스트에서 캡슐 REST 수집은 무손실이나 초당 61.6건으로 처리량이 제한됐다.
- •자율 AI 에이전트 실행을 변조 방지·재실행 가능하게 기록하는 NovaFabric 제안
- •15개 엔티티 스키마 '실행 쉟슐'를 DSSE 서버·타임스탬프·쒰클 런덤수로 봉인
- •변조 3개 클랍스 모두 탐지, 자격증명 14종 명입변을 전적 마스킹하여 렔션하면서 데코이 9종 모뎀 보전
- •해당 버전을 범적으로 있땴 모의 재상은 답볹 재현은 100% 성생하지만 도구 사용 워크로드는 10건 중 2건만 완료
- •314대 장마 스토변이 실험에서 REST 수집은 듰 넄읰지 초대된 초당 61.6건으로 제한되는 처리량 발견
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
NovaFabric: Tamper-Evident, Replayable Evidence for Autonomous AI Agent Runs
- 1.자율 AI 에이전트 실행을 변조 불가능하고 재실행 가능한 증거로 봉인하는 시스템 NovaFabric을 제안
- 2.DSSE 서명·RFC3161 타임스탬프·머클로그로 'Run Capsule'을 생성, 검증용 Evidence Bundle로 내보냄
- 3.위변조 3개 클래스를 전부 탐지했으나, 도구 호출 워크로드 재현은 10건 중 2건만 성공(도구 응답 치환 기능 부재)
- 4.314대 규모 10개 리전 실증에서 캡슐 수집은 무손실이나 워커별 직렬화로 초당 61.6건에 처리량이 제한됨
왜 중요한가?
EU AI Act 등 규제가 요구하는 '독립 검증 가능한 AI 에이전트 기록'을 실제로 구현하면서도, 도구 호출 재현 등 남은 한계를 스스로 공개한 초기 감사 인프라 연구다.
언급 프로젝트
자율 AI 에이전트의 행동에 대한 투명성과 증명 가능성은 AI 윤리 및 규제 논의가 활발한 한국 시장에서 특히 중요합니다. 'NovaFabric'은 AI 에이전트의 실행 기록을 위변조 불가능하고 재현 가능한 형태로 제공하여, 향후 AI 책임 소재 규명 및 신뢰성 확보에 필수적인 기술이 될 것입니다.
본문 미리보기
arXiv:2609.12582v1 Announce Type: new Abstract: When an autonomous AI agent does something consequential, what can be proven about what it did? Agent-observability platforms capture traces, but a trace is mutable: alterable undetected, with no recipe for re-executing it, silent on whether captured secrets were removed. Regulation (EU AI Act, ISO 42001, NIST AI RMF) presumes records an independent party can check. We present NovaFabric, producing audit-grade execution evidence: provider-neutra
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 11:24AI 초안
