AIarXiv cs.CR (암호학·보안)AI 점수 90%
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
RATION: Towards Quantitative Risk-Based Access Control for AI Agents (원문, 새 창)
AI 인사이트
대상 독자:개발자
- AI 에이전트 보안을 행동 제한이 아니라 실행 중 누적되는 측정 가능한 위험을 정량적으로 통제하는 RATION 프레임워크 제안
- 사용자 요청의 명시적 제약과 유사 과거 작업 이력에서 보정한 암묵적 위험을 결합해 과제별 정책을 구성
- 실행 중 누적 위험을 지속적으로 추적하며 위험 유형에 따라 다른 집행 전략을 적용
- 4개 보안 벤치마크, 다양한 모델·환경에서 강한 보안성과 높은 과제 성능을 동시에 달성
왜 중요한가
기존 에이전트 보안 시스템은 행동을 과도하게 제한해 보안-효용 트레이드오프를 겪었는데, 위험을 누적 수치로 다루는 RATION의 접근은 간접 프롬프트 주입 같은 위협에 대응하면서도 과제 수행 능력을 거의 그대로 유지할 수 있음을 보여준다.
언급 프로젝트
본문 미리보기
arXiv:2610.24311v1 Announce Type: new Abstract: AI agents increasingly interact with external environments to complete complex user tasks. These interactions can lead to unexpected behavior and expose agents to security threats such as indirect prompt injection. Current agent security systems largely protect agents by restricting their actions, which can result in a substantial security-utility trade-off for complex, open-ended tasks. To address this, we propose a quantitative risk-based approa
전체 내용이 궁금하다면?
arXiv cs.CR (암호학·보안)에서 원문을 직접 읽어보세요
공유
- #에이전트보안
- #접근제어
- #프롬프트인젝션
- #리스크평가
이 글이 만들어진 과정
- 11:24AI 초안