0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
Diagnose Before You Refine: Multi-Dimensional Judge Feedback for Query-Efficient Jailbreak Attacks
출처:arXiv cs.CR (암호학·보안)
AI 인사이트
개발자
- 1.다차원 확률적 피드백으로 탈옥 프롬프트를 최적화하는 쿼리 기반 프레임워크 JSB 제안
- 2.연속적 탈옥 점수화와 전략 전환·최적상태 재시드를 결합해 탐색과 정제의 균형 달성
- 3.타겟 모델 질의 단 10회 예산으로 오픈소스 10개 환경에서 평균 HarmBench 공격성공률 89.8% 달성
- 4.기존 필터링 방어의 한계를 실험으로 드러내고 Jev 기반 출력 필터링의 가능성도 제시
왜 중요한가?
단 10회의 질의만으로도 다양한 오픈·폐쇄형 LLM에서 90%에 가까운 탈옥 성공률을 낸다는 점에서, 기존 방어 체계가 저비용 자동화 공격에 취약함을 보여주며 LLM 안전장치 강화의 시급성을 부각한다.
본문 미리보기
arXiv:2610.19971v1 Announce Type: new Abstract: Automated jailbreak attacks rely on evaluation feedback to optimize adversarial prompts, but existing methods often lack fine-grained diagnostic information. We propose Jev-Guided Strategy Bandit (JSB), a query-based jailbreak framework that leverages multi-dimensional probabilistic feedback to guide prompt optimization. JSB combines continuous jailbreak scoring with targeted refinement, strategy switching, and best-state reseeding to balance expl
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
공유:
#LLM#탈옥공격#AI안전성
이 글이 만들어진 과정
- 11:24AI 초안
