LLM 에이전트가 도구 호출 인자에 필요 이상의 개인정보(PSD)를 포함시켜 매 호출마다 제3자 서비스로 신뢰 경계를 넘기는 문제를 다룬 연구다. GPT-4o, Claude 3.5 Sonnet, Llama-3.3-70B 세 모델을 대상으로 측정한 결과 기본 프롬프트에서는 도구 호출의 81~88%가 불필요한 개인정보를 포함했고, 명시적으로 프라이버시를 지시해도 36~76%가 여전히 과다 공유됐다. 연구진은 스키마 기반 필요성 분석과 제거·일반화·대체·절단 네 가지 연산을 결합해 도구 호출 인자를 최소 필요 수준으로 재작성하는 미들웨어를 제안했으며, 세 모델의 실제 도구 호출 307건에서 작업 유효성을 100% 유지하면서 프라이버시 노출을 81.2~92.0% 줄였다. 미주석 MCP 스키마 25개에서도 79.0% 감소 효과를 보였고, LLM 기반 콘텐츠 필요성 계층을 추가하면 최대 95.6%까지 감소하며 지연 시간은 평균 1.77밀리초에 불과했다.
- •GPT-4o·Claude 3.5 Sonnet·Llama-3.3-70B 도구 호출의 81~88%가 불필요한 개인정보 포함
- •프라이버시 명시 지시에도 여전히 36~76% 과다 공유
- •제거·일반화·대체·절단 네 연산으로 인자를 최소 필요 수준으로 재작성하는 미들웨어 제시
- •실제 307건 도구 호출서 프라이버시 노출 81.2~92.0% 감소, 작업 유효성 100% 유지
- •중앙값 지연시간 1.77ms로 실용적 수준의 오버헤드
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
ToolMinimize: Auditing and Rewriting LLM Agent Tool Calls to Minimize Privacy Exposure
- 1.GPT-4o·Claude 3.5 Sonnet·Llama-3.3-70B 툴 호출의 81~88%가 불필요한 개인정보(PSD)를 포함함을 실측
- 2.프라이버시 지시를 명시해도 36~76%는 여전히 과다 공유되는 한계 확인
- 3.제거·일반화·대체·절단 4개 연산으로 툴 호출 인자를 필요최소한으로 재작성하는 미들웨어 제시
- 4.307건 실 검증에서 과업 유효성 100% 유지하며 프라이버시 비용 81.2~92.0% 감축, MCP 스키마 25종에서도 79.0% 감축
왜 중요한가?
차단·라벨링만 하던 기존 방어와 달리 인자 값 자체를 재작성해 병원명처럼 암묵적으로 진단정보를 노출하는 사례까지 잡아내, MCP 등 실제 에이전트-툴 연동 환경에 바로 적용 가능한 프라이버시 보호책을 제시한다.
본문 미리보기
arXiv:2608.24957v1 Announce Type: new Abstract: LLM agents routinely include privacy-sensitive data (PSD) in tool call arguments beyond what the invoked tools require, crossing trust boundaries to third-party services on every invocation. A controlled measurement on three production LLMs (GPT-4o, Claude 3.5 Sonnet, Llama-3.3-70B) shows that 81--88\% of tool calls include unnecessary PSD under default prompts; explicit privacy instructions still leave 36--76\% over-sharing. Existing defenses gat
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 11:24AI 초안
![[AI리더의 서가] Agentic AI 구축 개발의 모든 것](https://cdn.aitimes.com/news/photo/202610/215958_219938_244.jpg)
