모바일 에이전트의 자연어 보안 정책 위반 여부를 감사하는 경량 시스템 MATE가 공개됐다. MATE는 에이전트 궤적과 자연어 보안 정책을 함께 인코딩해 위반 여부와 그 이유를 판별하며, 정책을 고정된 모델 파라미터가 아닌 편집 가능한 텍스트로 취급해 재학습 없이 사용자 정의·변경되는 요구사항에 대응한다. 연구진은 수백 개 인기 모바일 앱에서 앱 설명·워크플로·정책을 추출하고 14만 건 이상의 정책 조건부 궤적을 합성해 지식베이스를 구축했으며, 감사 벤치마크 MATEBench도 함께 공개했다. MATE로 학습한 모델은 MATEBench에서 95% 이상의 정확도를 기록했고, 지프AI의 AutoGLM과 알리바바의 Mobile-Agent 실기기 궤적 감사에서도 95% 이상 정확도로 기존 방법을 20%포인트 이상 앞섰다.
- •에이전트 궤적과 자연어 보안 정책을 함께 인코딩해 위반 여부·이유를 판별하는 MATE
- •정책을 편집 가능한 텍스트로 다뤄 재학습 없이 정책 변경에 대응
- •14만 건 이상 합성 궤적으로 지식베이스 구축, 감사 벤치마크 MATEBench 공개
- •MATEBench 정확도 95% 이상, 실기기 AutoGLM·Mobile-Agent 감사서도 95% 이상
- •기존 방법 대비 정확도 20%포인트 이상 우위
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
MATE: Policy-Aware Security Auditing for Mobile Agents via Synthesis-Driven Trajectory Learning
- 1.자연어 정책과 에이전트 궤적을 함께 인코딩해 위반여부·이유를 판정하는 경량 감사기 MATE 제안
- 2.14만 개 이상의 정책 조건부 궤적을 다단계 파이프라인으로 합성해 학습
- 3.실제·합성 데이터를 담은 벤치마크 MATEBench 공개, 정확도 95% 이상 달성
- 4.Zhipu AutoGLM·Alibaba Mobile-Agent 실기기 감사에도 95%↑ 정확도, 기존보다 20%p↑
왜 중요한가?
모바일 에이전트가 실제 기기에서 복잡한 작업을 자동화하며 정책 위반 우려가 커지는데, 재학습 없이 텍스트로 정책을 갱신하는 감사기로 상용 에이전트에도 즉시 적용 가능한 검증 수단을 제공한다.
본문 미리보기
arXiv:2609.22724v1 Announce Type: new Abstract: Mobile agents powered by foundation models now automate complex, multi-step workflows on real devices, but their trajectories can violate app-specific security policies. Existing trajectory-level defenses rely on LLM prompting or rigid rules, and thus fail to support fine-grained, natural-language policies that generalize across apps and tasks. In this work, we introduce MATE, a lightweight, policy-conditioned auditor that encodes both agent traje
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 11:24AI 초안

![[10월12일] AI가 암을 치료해도 원리를 알아야 할까…수학자 타오의 질문에 쏟아진 반론](https://cdn.aitimes.com/news/photo/202610/216150_220160_1157.jpg)

