AIarXiv cs.CR (암호학·보안)AI 점수 85%
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
AutoRedClaw: Automated Red-Teaming for Claw-Style Agents (원문, 새 창)
AI 인사이트
대상 독자:개발자
- AGENTS.md 등 영속 설정·기억을 쓰는 '클로(claw)형' 에이전트를 자동 레드티밍하는 AutoRedClaw 공개
- 공격과 실행 환경을 함께 자동 생성, 품질검증·실행기반 검증으로 성공률 보장
- 성공 공격 1건당 0.10달러 미만 비용으로 30% 이상의 공격 성공률 달성
- 330개 사례의 RedClaw-Bench 구축, 기존 AgentDojo·DTap보다 높은 공격성공률 기록
왜 중요한가
영속 메모리·스킬을 가진 차세대 에이전트가 한 번 오염되면 이후 모든 작업에 위협이 전이될 수 있음을 보여, 프론티어 모델 4종 중 대다수가 50% 넘는 공격 성공률을 보였다는 점에서 실제 배포 전 보안 평가의 시급성을 드러낸다.
본문 미리보기
arXiv:2610.27244v1 Announce Type: new Abstract: Agent systems are shifting from task-scoped tool-use agents to persistent, personalized assistants such as OpenClaw. These claw-style agents maintain configuration files (e.g., AGENTS.md), long-term memory, and reusable skills. Once poisoned, this persistent state is repeatedly reloaded into the agent's context, creating persistent threats across tasks and sessions. Existing security evaluation systems struggle to evaluate these complex claw-style
전체 내용이 궁금하다면?
arXiv cs.CR (암호학·보안)에서 원문을 직접 읽어보세요
공유
- #AI에이전트
- #레드티밍
- #에이전트보안
이 글이 만들어진 과정
- 11:34AI 초안