이 논문은 서로 다른 주체를 대신하는 LLM 에이전트들이 협업하는 AI 매개 플랫폼에서, 최종 답변이 나오기 전에 메모리 기록이나 공유 워크스페이스 갱신, 에이전트 간 메시지 등으로 프라이버시 유출이 이미 발생할 수 있다는 문제를 '프라이버시 전파 외부성'으로 정식화한다. 저자들은 정보 이동 이벤트를 최종 상태 반영 전에 가로채 정책·출처·토폴로지/팬아웃·권한·내용 신호를 종합해 허용, 정책 안전 요약본 공개, 원본 격리, 전이 차단, 권한 축소 중 하나를 선택하는 플랫폼 매개 메커니즘 'PAPC'를 제안한다. 검색-메모리 및 다중 에이전트 워크플로우 벤치마크 실험에서 PAPC는 결정론적 작업 완수를 유지하면서 측정된 원본 값 노출과 외부 원본 노출을 모두 제거했다. 이는 최종 출력만 통제하는 기존 방식이 중간 노출 비용을 놓치는 이유와, 팬아웃이 큰 객체일수록 전파가 증폭되는 이유를 설명한다.
- •AI 매개 플랫폼에서 최종 답변 전 메모리·공유워크스페이스·에이전트 메시지로 발생하는 유출을 '프라이버시 전파 외부성'으로 정식화
- •정보 이동 이벤트를 가로채 정책·출처·토폴로지/팬아웃·권한·내용 신호로 대응(허용/요약 공개/격리/차단/권한 축소)하는 'PAPC' 제안
- •검색-메모리·다중 에이전트 벤치마크에서 결정론적 작업 완수를 유지하면서 원본 값 노출을 완전히 제거
- •최종 출력 통제만으로는 중간 노출 비용을 놓치며, 팬아웃이 큰 객체일수록 전파 위험이 커짐을 설명
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
PAPC: Platform Mediation for Privacy-Propagation Externalities in AI-Mediated Workflows
- 1.다중 에이전트 협업 중 최종 답변 이전에 생기는 '프라이버시 전파 외부효과'를 플랫폼 매개 메커니즘 PAPC로 차단
- 2.정책·출처·토폴로지/팬아웃·권한·콘텐츠 신호를 결합해 이벤트를 허용·추상화·격리·차단 중 하나로 처리
- 3.검색-메모리 및 다중 에이전트 벤치마크서 작업 완료율 유지하며 원문 노출을 측정상 완전히 제거
- 4.최종 출력만 통제하는 기존 방식이 놓치는 중간 노출 비용을 이벤트 단위 거버넌스 원리로 제시
왜 중요한가?
여러 주체를 대신해 움직이는 AI 에이전트 협업 환경에서 최종 답변만 검열해서는 막을 수 없는 프라이버시 유출 경로를 구조적으로 설명하고, 이를 플랫폼 차원에서 차단하는 실용적 메커니즘을 제시한다.
언급 프로젝트
AI 기반 워크플로우에서 LLM 에이전트 간의 상호작용이 중간 단계에서 개인정보 유출을 야기할 수 있다는 지적은 한국의 엄격한 개인정보보호법(PIPA) 준수에 중요한 시사점을 줍니다. 플랫폼이 이러한 개인정보 전파 외부 효과를 어떻게 중재하고 관리할지는 국내 AI 서비스 개발 및 운영에 있어 핵심적인 과제가 될 것입니다.
본문 미리보기
arXiv:2609.19226v1 Announce Type: new Abstract: AI-mediated platforms coordinate work through LLM agents acting for different principals. In these workflows, privacy loss can be created before a final answer appears: a memory write, shared-workspace update, inter-agent message, or tool event may impose downstream exposure cost on another principal. We model this failure mode as a privacy-propagation externality, where the cost of a raw disclosure depends on topology and fanout as well as conten
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 11:24AI 초안

![[10월12일] AI가 암을 치료해도 원리를 알아야 할까…수학자 타오의 질문에 쏟아진 반론](https://cdn.aitimes.com/news/photo/202610/216150_220160_1157.jpg)

