Answer-Only Disclosure: Private-Context LLM Assistance over Web APIs with a Leakage Ledger↗ (원문, 새 창)

이 연구는 기기 내 소형 모델과 클라우드 LLM이 협력 디코딩으로 사용자의 비공개 문서에 답할 때, 사용자가 승인한 공개 뷰나 답변에는 없는 내용이 두 모델 간 메시지 교환 과정에서 유출될 수 있음을 보여준다. 사전 설정된 비밀 코드 감사에서, 사적 초안을 쓰는 추측 디코딩이 답변에는 비밀 코드를 포함하지 않았지만 거부된 초안으로 클라우드에 코드를 전송한 사례를 확인했다. 이에 저자들은 클라우드로 보내는 모든 메시지가 공개 뷰와 사용자가 보는 답변에만 의존하도록 보장하는 디코딩 프로토콜 ADLER와, 답변이 드러내는 정보량을 측정하는 클라이언트 측 유출 원장을 제시한다. GSM8K 실험에서 숫자 값을 가린 입력에 ADLER를 적용하면 0.5B 클라이언트의 정확도가 0.41에서 0.83으로, 1.5B는 0.67에서 0.85로 올라 전체 문제를 업로드한 경우(0.92)에 근접했으며, 유출 없는 프로그램 기준선(0.69)도 0.14~0.16포인트 능가했다.

• 기기-클라우드 협력 디코딩에서 메시지 교환 자체가 비공개 정보를 유출할 수 있음을 실증
• 추측 디코딩의 거부된 초안을 통해 비밀 코드가 클라우드로 전송된 사례 확인
• 모든 클라우드 메시지를 공개 뷰·답변에만 의존하게 하는 ADLER 프로토콜 제안
• 답변이 드러내는 정보량을 측정하는 클라이언트 측 유출 원장 도입
• GSM8K에서 0.5B/1.5B 클라이언트 정확도가 전체 업로드 수준(0.92)에 근접하게 상승