0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
DIBench: Benchmarking Decision Integrity of GUI-based Mobile Agents Under Deceptive Injections
출처:arXiv cs.CR (암호학·보안)
AI 인사이트
개발자
- 1.DIBench, GUI 모바일 에이전트의 '결정 무결성' 위험을 측정하는 벤치마크로 공개
- 2.7개 상용 앱과 3개 시뮬레이션 앱 대상 1,000개 정상·36,672개 주입 공격 사례로 구성
- 3.4개 에이전트 프레임워크·7개 기반 모델 실험, 완료율 기반 평가가 안전성을 과대평가함을 확인
- 4.탐지·이미지 전처리·프롬프트 알림 등 기존 방어 기법은 효과가 일관되지 않음
왜 중요한가?
기존 벤치마크가 작업 완료율만으로 에이전트 신뢰성을 평가해 비노출 교란 공격을 놓칠 수 있음을 보여, 상용 환경에 배포되는 GUI 에이전트의 안전 평가 방식 자체를 재검토할 필요성을 제기한다.
언급 프로젝트
본문 미리보기
arXiv:2610.06898v1 Announce Type: new Abstract: As GUI-based mobile agents rapidly progress, rigorous safety evaluation of their autonomous decision-making in realistic app interfaces becomes increasingly critical. Existing benchmarks mainly focus on execution-level anomalies using task success or hijack rates, but fail to capture the in-task goal deviation risk in multi-candidate selection tasks, where the decision may be steered toward an attacker-specified target, even in violation of instru
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
공유:
#AI에이전트#안전성#벤치마크#적대적주입
이 글이 만들어진 과정
- 11:24AI 초안
