AIarXiv cs.CR (암호학·보안)AI 점수 90%
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
Fooling LLM Safety Guards into Judging the Wrong Text (원문, 새 창)
AI 인사이트
대상 독자:개발자
- 콘텐츠 안전가드가 위조 과제를 진짜 요청으로 오인하는 '타깃 리바인딩' 공격 기법 공개
- 위조 질의·디코이 추가만으로 Shieldstral-1.0-3B가 걸러내던 AdvBench 75건 전부 통과
- GuardRebind 벤치마크서 5개 가드 모두 93%이상 통과율 내는 공격유형 존재 확인
- 입력 중 최유해 부분 이하로 점수 못 매기게 재학습하면 공격성공률 75%→0.8~1.6%로 급감
왜 중요한가
LLM 안전 가드가 입력의 마지막 완전한 과제만 평가하는 구조적 약점을 악용하면 거의 모든 유해 요청이 통과될 수 있음을 보여, 현재 상용 가드레일 설계 전반의 재검토가 필요함을 시사한다.
본문 미리보기
arXiv:2610.31695v1 Announce Type: new Abstract: Safety guards check content before an LLM application acts on it, and most paste that content into a plain-text prompt. Content that imitates the prompt can append a second task, and the guard answers that one instead. We call this target rebinding. Our explanation is that the guard grades the last complete task in its input, here a harmless decoy, so the harmful request goes through unchanged. In a pre-registered test, an appended forged query an
전체 내용이 궁금하다면?
arXiv cs.CR (암호학·보안)에서 원문을 직접 읽어보세요
공유
- #LLM안전가드
- #프롬프트인젝션
- #AI보안
- #탈옥공격
이 글이 만들어진 과정
- 11:34AI 초안