AIarXiv cs.CR (암호학·보안)AI 점수 90%
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
ToolRosetta: Surface-Form Invariance of Tool-Call Guards (원문, 새 창)
AI 인사이트
대상 독자:개발자
- 도구 호출 가드 평가 도구 'ToolRosetta', JSON 표준형 대신 실제 배포 형태로 재현해 검증
- 프런티어·강력 오픈웨이트 가드는 안정적이나 특화형 에이전트 가드 5개 중 4개는 표면형식만 바뀌어도 불안정
- 셸 명령 형태로 바뀌자 거짓양성률이 21~47%포인트 치솟아 정상 행동의 최대 90%까지 차단
- JSON 기준 벤치마크 정확도가 실제 코드 실행 에이전트 뒤에서의 가드 동작을 예측하지 못함을 확인
왜 중요한가
코딩 에이전트가 실제로 호출하는 문자열 기반 도구 형식에서 가드가 쉽게 흔들린다는 사실을 드러내, JSON 벤치마크 점수만으로 에이전트 보안 가드를 신뢰해서는 안 된다는 경고를 준다.
본문 미리보기
arXiv:2610.24055v1 Announce Type: new Abstract: Step-level guards for tool-using agents are evaluated on tidy JSON tool calls, but deployed coding agents act through execute_bash and execute_code tools whose payloads are strings. We introduce ToolRosetta, which re-renders every candidate action in the AgentDojo and AgentHarm splits of TS-Bench as a Python call, as a shell command, and without the agent's rationale. The renderings are produced by code and verified by round-trip parsing, so the u
전체 내용이 궁금하다면?
arXiv cs.CR (암호학·보안)에서 원문을 직접 읽어보세요
공유
- #AI에이전트
- #툴콜가드
- #평가벤치마크
- #에이전트안전성
이 글이 만들어진 과정
- 11:24AI 초안