에이전트 LLM이 자금을 이동시키지만 그 기록은 보통 결과와 별도의 트레이스로 남는다는 문제의식에서, Janus는 서명되고 해시체인으로 연결된 로그에 단계별 제안·판정·검증자 응답을 실행 전에 기록해 효과 경로 자체에 기록을 둔다. 게이트는 로그의 순수 함수이며 감사자는 로그와 공개키만으로 오프라인에서 모든 판정을 재도출할 수 있다. 크래시 주입, 1억 건 로그 오프라인 검증(254.5초), 실제 대출 워크플로우 실험으로 평가했으며, 위임 범위를 벗어난 대출 승인을 평범한 에이전트는 모두 승인했지만 Janus는 결정론적 검증자로 전부 거부했다. 실험 과정에서 승인이 다른 제안으로 잘못 귀속되는 '사후 승인 치환' 취약점도 발견해 보고했다.
- •Janus: 단계별 제안·판정을 실행 전에 서명된 해시체인 로그에 기록해 효과 경로에 감사 가능성을 확보
- •1억 건 로그를 254.5초에 오프라인 검증, 크래시 주입 225회(인프로세스 144, 데몬 81) 테스트
- •위임 범위를 벗어난 대출 승인을 평범한 에이전트는 전부 승인했으나 Janus는 전부 거부
- •승인이 다른 금액의 제안으로 잘못 귀속되는 '사후 승인 치환' 취약점을 발견해 수정안 제시
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
Janus: Evidence-Before-Effect Sagas and Offline-Verifiable Provenance for Agentic LLMs
- 1.에이전트가 돈을 움직이는 과정을 서명된 해시체인 로그로 기록해 효과 발생 전 증거를 남기는 Janus 제안
- 2.실제 모델 기반 대출 실험에서 평범한 에이전트는 한도 초과 대출 6건을 모두 집행했지만 Janus는 전부 차단
- 3.1억 건 이벤트 로그를 오프라인에서 254.5초 만에 검증, 크래시 주입 225회에도 견딤을 확인
- 4.실험 중 '사후 승인 치환' 버그 발견, 승인 금액이 100에서 100만으로 둔갑할 결함과 수정안 공개
왜 중요한가?
LLM 에이전트가 실제 금융 거래를 처리하는 시대에, 행위가 아닌 결과(이펙트) 경로에 변조 불가능한 증거를 남겨 오프라인 감사까지 가능하게 한 구체적 설계를 제시한다.
언급 프로젝트
본문 미리보기
arXiv:2609.38266v1 Announce Type: new Abstract: Agentic large language models (LLMs) now move money through tools, yet the record of what they did is usually a trace their own process emits beside the effect. Janus puts the record on the effect path. A step's proposal, the verdict on it and any answer from a validator or a person are durable in a signed, hash-chained log before the step may run or its effect be released; with keys declared, each answer is signed by whoever gave or relayed it. G
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 11:24AI 초안
