연구진은 자율 LLM 에이전트가 신뢰할 수 없는 콘텐츠를 결제나 권한 변경 같은 실제 효과를 내는 행동으로 전환할 때, 동일한 프로세스가 콘텐츠 해석과 재사용 가능한 서명 자격증명 제어를 모두 담당하면 프롬프트 주입이 판단 경계를 넘어 실행 권한에 도달할 수 있다는 문제를 다룬다. 이를 해결하기 위해 사용자의 개인 비밀 서명 키와 모든 임계 서명 키 조각을 모든 LLM 프로세스 밖에 두는 '검토-후-인가' 아키텍처 KITA를 제시했다. 임계 서명 위조 불가능성 하에서, 제안자와 t개 미만의 검토자-서명자 도메인이 손상되더라도 t개의 서로 다른 도메인의 서명 기여 없이는 새로운 행동에 대한 유효한 인가를 생성할 수 없다. 구조화 출력 LLM 어댑터와 임계 BLS로 전체 검토자-실행자 경로를 구현했으며, 6개 시스템 테스트로 정족수 게이팅과 메시지 결속을 검증했다.
- •LLM이 콘텐츠 해석과 서명 자격증명 제어를 동시에 맡을 때의 권한 탈취 위험을 지적
- •서명 키를 모든 LLM 프로세스 밖에 두는 '검토-후-인가' 아키텍처 KITA 제안
- •임계 서명 위조 불가능성으로 t개 미만 도메인 손상 시에도 인가 위조 불가능
- •구조화 출력 LLM 어댑터와 임계 BLS로 전체 검토자-실행자 경로 구현
- •6개 시스템 테스트로 정족수 게이팅·메시지 결속 검증, 암호 마이크로 확장성 측정
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
From Review to Authorization: Key-Isolated Threshold Signing for LLM Agents
- 1.LLM 에이전트의 서명키를 프로세스 밖에 두는 승인체계 KITA 제안
- 2.임계서명 위조불가성 하에 제안자+t미만 검토자 타협으로는 유효 승인 불가
- 3.새 행동 승인은 미침해 도메인의 서명기여를 반드시 포함, 실행결속 무결성 확립
- 4.구조화출력 LLM 어댑터·임계 BLS로 전체 경로 구현, 6개 테스트로 쿼럼 검증
왜 중요한가?
자율 LLM 에이전트가 프롬프트 인젝션으로 결제·권한변경 같은 실제 행동을 실행할 위험이 커지는 가운데, 서명 권한을 LLM 프로세스 완전히 밖에 두어 판단과 실행 권한 사이 경계를 암호학적으로 강제하는 실용적 설계를 제시한다.
언급 프로젝트
본문 미리보기
arXiv:2609.05901v1 Announce Type: new Abstract: Autonomous LLM agents can turn untrusted content into effectful actions such as payments and permission changes. If the same process interprets this content and controls a reusable signing credential, prompt injection can cross the judgment boundary and reach execution authority. We present KITA, a review-to-authorization architecture that keeps the user's personal secret signing key and every threshold signing-key share outside all LLM processes.
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 11:24AI 초안



