0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
What It Is, Not What It Says: Securing Agentic Browsing Interactions with Web Semantics
출처:arXiv cs.CR (암호학·보안)
AI 인사이트
개발자
- 1.에이전트가 보는 웹페이지 요소의 출처·권한을 요소 단위로 복원해 프롬프트 주입을 막는 시스템 Intact 제안, 브라우저 수정 불필요
- 2.GenTree라는 표현으로 각 요소의 출처와 웹 시맨틱을 포착해 한 번에 한 요소씨 LLM에 전달
- 3.실제 웹페이지 1,270개 분석 결과, 브라우저는 제3자 요소 58.7%를 자사로 오분류하나 GenTree는 2.3배 정확히 귀속
- 4.주입 공격 테스트 1,091개 페이지에서 기존 플래너 통과율 73.1% 대비 Intact는 12.8%만 통과, 기능저하 3.7%
왜 중요한가?
LLM이 웹요소를 '무엇을 담고 있는가'가 아니라 '무엇인지·어디서 왔는지'로 판단하게 만들어, 에이전틱 브라우징의 핵심 취약점인 프롬프트 주입을 구조적으로 차단하는 실용적 해법을 제시한다.
본문 미리보기
arXiv:2610.22697v1 Announce Type: new Abstract: AI agents increasingly browse the web on users' behalf, yet they consume webpages as screenshots or text, exposing their LLMs to unvetted third-party content. Browsers enforce semantics under which what an element can do depends on what it is and where it comes from, not on what it says. Agents flatten these semantics, so injected text can persuade the LLM to exercise the user's authority for content that has none. As LLMs remain easy to persuade,
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
공유:
#에이전틱브라우징#프롬프트인젝션#웹시맨틱스#AI에이전트보안
이 글이 만들어진 과정
- 11:24AI 초안