이 연구는 에이전트형 브라우저가 사용자의 인증 세션에서 보안에 민감한 행동을 수행할 때 발생하는 간접 프롬프트 주입과 기만적 확인 화면 위협에 대응하는 방어 구조 VAC(Verifiable Action Card)를 제안한다. VAC는 신뢰할 수 있는 출처 정보를 바탕으로 실제 대기 중인 브라우저 행동을 재구성해 신뢰된 브라우저 UI 영역에 별도로 표시하고, 승인 시점의 실제 행동과 재검증해 승인을 바인딩한다. 출처 검증, 실제 행동 기술자, 기본 거부 확인, 출처 기반 위험 게이팅, 실행 바인딩을 결합한 이 구조를 완전한 에이전트형 브라우저에 구현하고 속임수 대리인 공격, 대화상자 위조, 간접 프롬프트 주입 등을 포함한 24개 시나리오 벤치마크로 평가했다. VAC 미적용 시 공격 성공률이 68~100%에 달했지만, VAC 적용 시 모든 모델에서 공격 성공률이 0%로 떨어졌고 정상 작업 완료율은 78%, 오탐 차단율은 0%를 유지했다.
- •에이전트형 브라우저의 간접 프롬프트 주입·기만적 확인 화면 위협에 대응하는 방어 구조 VAC 제안
- •실제 대기 중인 브라우저 행동을 신뢰된 UI 영역에 별도 표시하고 승인 시점에 재검증해 바인딩
- •24개 시나리오(속임수 대리인 공격, 대화상자 위조, 간접 프롬프트 주입 등) 벤치마크로 평가
- •VAC 미적용 시 공격 성공률 68~100%였으나 VAC 적용 시 모든 모델에서 0%로 감소
- •정상 작업 완료율 78%, 오탐 차단율 0%를 유지해 실용성과 보안성을 동시에 입증
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
The Verifiable Action Card: Trustworthy Human-in-the-Loop Control for Secure Autonomous Agents
- 1.에이전틱 브라우저의 프롬프트 인젠션·기만적 승인창 위협에 대응하는 방어 아키텍처 VAC 제시
- 2.승인 정보를 실제 대기 중인 액션의 근거 진실로부터 재구성해 신뢰된 브라우저 크롬에 대역으로 표시
- 3.24개 시나리오(혼동 대리인, 대화 위조, 프롬프트 인젠션 등) 평가에서 VAC 미적용 시 공격 성공률 68~100%
- 4.VAC 적용 시 모든 모델에서 공격 성공률 0%, 정상작업 완료율 78%, 오차단율 0% 달성
왜 중요한가?
프롬프트 수준 방어나 기존 휴먼인더루프 확인으로는 막지 못하던 승인창 위·변조 공격을 원천 차단해, 자율 에이전트 브라우저의 실사용 안전성을 실증적으로 입증한다.
언급 프로젝트
자율 에이전트가 사용자 인증 세션 하에 보안 민감 작업을 수행하는 시대에, 이 연구는 검증 가능한 '휴먼-인-더-루프' 제어의 중요성을 강조합니다. 간접 프롬프트 주입과 기만적인 인터페이스 위협이 커지는 상황에서, 국내 금융, 전자상거래 등 AI 기반 서비스 제공 기업들은 사용자 자산과 정보 보호를 위해 신뢰할 수 있는 제어 메커니즘을 적극적으로 검토해야 합니다. 이는 AI 서비스의 신뢰성을 확보하고 국내 사용자들의 불안감을 해소하는 데 필수적인 요소가 될 것입니다.
본문 미리보기
arXiv:2609.18411v1 Announce Type: new Abstract: Agentic browsers can execute security-sensitive actions under a user's authenticated session, making indirect prompt injection and deceptive confirmation interfaces a direct threat to action integrity. Existing human-in-the-loop (HITL) safeguards are insufficient when the approval prompt itself can be influenced by untrusted page content or model-generated text. We present the \emph{Verifiable Action Card} (VAC), an architectural defence that reco
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 11:24AI 초안

![[10월12일] AI가 암을 치료해도 원리를 알아야 할까…수학자 타오의 질문에 쏟아진 반론](https://cdn.aitimes.com/news/photo/202610/216150_220160_1157.jpg)

