FAVA는 LLM 에이전트의 실행 권한을 정적 도구 단위가 아니라 동적 맥락에 맞춰 검증하는 인가 프레임워크다. LLM이 유도한 '권한 중간 표현(Permission IR)'으로 모호한 자연어 작업을 구조화된 제약으로 변환한 뒤, 결정론적 변환 과정을 거쳐 데이터 흐름과 의존성, 맥락 라벨을 명시적으로 추적하는 근거 기반 권한 그래프를 생성한다. 실제 행동을 실행하기 전, SMT 기반 인가기가 현재 그래프를 보안 정책과 수학적으로 대조해 검증하고, 런타임 게이트웨이가 그 결과를 강제해 실행을 허가하거나 구체적 반례와 함께 차단한다. OpenAgentSafety, OctoBench, ActPlane 벤치마크 평가에서 전체 데이터셋 기준 90.5%의 결정 준수율(DCR)을 달성하며 동적 위반 사례를 성공적으로 차단했다.
- •정적 도구 단위 권한 대신 맥락 의존적 동적 인가를 수행하는 LLM 에이전트 프레임워크 FAVA 제안
- •자연어 작업을 구조화된 권한 중간 표현(IR)으로 변환 후 근거 기반 권한 그래프로 하강
- •SMT 기반 인가기가 실행 전 권한 그래프를 보안 정책과 수학적으로 검증
- •OpenAgentSafety 등 3개 벤치마크에서 결정 준수율(DCR) 90.5% 달성, 동적 위반 성공적으로 차단
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
FAVA: Formal Authorization for Verified Agents with Evidence-Backed Permission Graphs
본문 미리보기
arXiv:2607.27267v1 Announce Type: new Abstract: Large language model (LLM) agents autonomously interleave semantic reasoning with complex system operations. In these dynamic environments, static tool-level permissions are fundamentally insufficient; safe authorization is highly context-dependent and heavily reliant on evolving runtime states and data flows. We present FAVA (Formal Authorization for Verified Agents), a permission-carrying authorization framework for agent execution. FAVA utilize
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 11:06AI 초안



