LLM 기반 자율 에이전트는 안정적 행동 그라운딩을 위해 풍부한 UI 상태 관찰에 의존하지만, 대다수 배포는 대부분 무관한 요소까지 전체 UI 상태를 원격 추론 서버로 전송해 인증 코드·비공개 알림·배경 앱 상태 같은 민감하고 불필요한 맥락을 유출할 수 있다. MINIM은 관찰이 기기를 떠나기 전 클라이언트 측에서 프라이버시 인식 최소화를 수행하는 신뢰된 로컬 브로커다. 맥락 무결성(Contextual Integrity)에 기반해 각 UI 요소에 내재 민감도 점수(s)와 과제 조건부 필요도 점수(n)의 이중 점수를 학습하고, 이를 통해 필수 요소는 유지, 민감 속성은 추상화, 무관 콘텐츠는 제거하는 3진 공개 정책을 구동한다. WebArena 기반 실제 UI 관찰 실험에서 과제 핵심 의미 맥락과 상호작용 어포던스를 보존하면서 무관한 민감 정보 유출을 크게 줄였다.
- •에이전트가 전체 UI 상태를 원격 서버로 보내면 인증 코드·비공개 알림 등이 유출될 수 있음
- •MINIM은 관찰이 기기를 떠나기 전 클라이언트 측에서 최소화하는 신뢰된 로컬 브로커
- •맥락 무결성 기반으로 각 UI 요소에 민감도(s)·과제 최필요도(n) 이중 점수 학습
- •필수 요소 유지·민감 속성 추상화·무관 콘텐츠 제거의 3진 공개 정책
- •WebArena 실험에서 과제 핵심 맥락 보존하며 무관 민감 정보 유출 대폭 감소
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
Minim: Privacy-Aware Minimal View for Agents via Trusted Local Sanitization
- 1.MINIM: UI 상태를 원격 서버로 보내기 전 기기 내에서 프라이버시 최소화하는 로컬 브로커 제안
- 2.각 UI 요소에 고유 민감도 점수(s)·작업 필요성 점수(n) 이중 점수 학습
- 3.Contextual Integrity 기반 3진 공개 정책: 핵심 유지·민감 속성 추상화·무관 콘텐츠 제거
- 4.WebArena 실험서 작업 무관 민감정보 유출 대폭 감소, 작업 핵심 의미·조작성은 보존
왜 중요한가?
LLM 에이전트가 인증코드·알림 등 불필요한 민감 정보를 통째로 원격 전송하는 유출 위험을, 작업 성능을 해치지 않으면서 클라이언트 측에서 차단한다는 점에서 에이전트 배포의 실질적 프라이버시 해법이다.
개인 정보 보호가 강화되는 한국의 규제 환경 속에서, 이 연구는 자율 에이전트가 민감한 UI 정보를 원격 서버로 전송하기 전에 로컬에서 익명화하는 방법을 제시합니다. 이는 국내 기업들이 개인정보보호법(PIPA)을 준수하며 AI 기반 서비스를 확장하고, 민감한 개인 정보를 다루는 분야에서 AI 에이전트를 안전하게 배포하는 데 중요한 해결책을 제공할 것입니다.
본문 미리보기
arXiv:2606.13949v1 Announce Type: new Abstract: Modern LLM-powered autonomous agents increasingly rely on rich user interface (UI) state observations to achieve reliable action grounding in complex digital environments. However, many deployments transmit the full UI state to remote inference servers even when most elements are irrelevant to the current task, which can leak sensitive but unnecessary context such as authentication codes, private notifications, and background application states. W
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 13:49AI 초안
