에이전트 행동을 승인하는 시스템은 판단을 위해 충분한 정보를 봐야 하고, 결정을 증명하는 시스템은 감사를 위해 충분한 기록을 남겨야 한다는 상충 요구를 다룬 연구다. 연구진은 각 파라미터 필드를 정책상 그대로 노출 가능한 것, 이메일 도메인처럼 투영(projection) 형태로만 노출 가능한 것, 절대 워크로드 밖으로 나가지 않는 것 세 등급으로 분류하는 필드 단위 최소화 아키텍처를 제안했다. 핵심은 원장의 커밋먼트가 최소화 이전의 전체 파라미터에 대한 정규화된 다이제스트로 계산돼, 등급표가 바뀌어도 과거 기록의 해시가 무효화되지 않는다는 점이다. 등급표·정책 스키마·와이어 스키마를 하나의 행동별 선언에서 생성해 승인자와 기록자가 서로 다른 규칙을 갖지 못하도록 했으며, 어느 당사자가 어떤 사실을 계산해야 하는지는 '누가 들키지 않고 거짓말할 수 있는가'를 기준으로 정했다. 실제로 초기 투영 설계가 제거하려던 식별자를 그대로 남긴 사고 사례도 함께 보고했다.
- •파라미터 필드를 원문 노출·투영만 노출·비노출 3등급으로 분류하는 최소화 아키텍처 제안
- •원장 커미트먼트는 최소화 이전 전체 파라미터의 다이제스트라 등급 재분류해도 과거 기록 무효화 안됨
- •등급표·정책·와이어 스키마를 단일 행동 선언에서 생성해 승인자·기록자 규칙 불일치 방지
- •각 사실의 계산 주체는 '누가 들키지 않고 거짓말할 수 있는가' 기준으로 결정
- •초기 투영 설계가 제거 대상 식별자를 그대로 남긴 실제 사고 사례 보고
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
Separating Disclosure from Authorization: Field-Tier Minimization for Agent Action Mediation
- 1.권한부여에 필요한 정보 공개와 감사기록 보관 요구를 분리하는 '필드 단위 최소화' 아키텍처 제시
- 2.파라미터 필드를 원본노출·프로젝션(예: 이메일 도메인)·비공개 3단계로 분류해 원장에 기록
- 3.원장 커밋먼트를 최소화 이전 전체 파라미터의 다이제스트로 고정해 필드 재분류 시에도 과거 기록 무효화 방지
- 4.각 사실은 '누가 거짓말해도 들키지 않는가' 기준으로 계산 주체 결정, 클라이언트가 다이제스트 계산 담당
왜 중요한가?
권한 판단을 위한 데이터 노출과 감사를 위한 불변 기록 보관이 서로 다른 요구임을 분리 설계함으로써, 삭제 불가능한 원장에 민감정보가 과도하게 쌓이는 구조적 문제를 해결하는 실마리를 제공한다.
AI 에이전트의 행동을 승인하고 감사하는 과정에서 필요한 최소한의 정보만 공개하도록 하는 '필드-티어 최소화' 접근법은 데이터 프라이버시 보호에 매우 중요합니다. 국내에서 데이터 최소화 원칙이 강조되는 상황에서, 이 기술은 AI 시스템 및 블록체인 기반의 자동화된 트랜잭션 처리 시 민감한 정보의 불필요한 노출을 방지하고, 개인정보보호 규제 준수를 강화하는 실질적인 해결책을 제시합니다.
본문 미리보기
arXiv:2608.25474v1 Announce Type: new Abstract: A system that authorizes an action must see enough of it to decide, and a system that attests to its decision must record enough to be audited. Both pressures push raw action parameters -- recipients, payment memos, record identifiers -- into an append-only ledger that cannot delete them. We show the two are separable. We classify each parameter field, not each action class, into three tiers: fields a policy may legitimately match on, which cross
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 11:24AI 초안



