클라우드와 엣지가 협력해 문장을 생성하는 '협력적 디코딩' 방식은 개인 데이터를 기기에 남겨두면서도 강력한 클라우드 LLM의 성능을 활용할 수 있지만, 실제로는 상당한 프라이버시 유출 위험이 있는 것으로 나타났다. 연구진은 질의응답 데이터셋 기반의 새로운 평가 프레임워크로 이 협력 구조에서 개인정보가 얼마나 노출되는지 체계적으로 분석했다. 이를 해결하기 위해 디코딩 과정에서 전송 신호를 동적으로 최적화해 유출을 억제하는 방어 기법 'CoVeil'을 제안했다. CoVeil은 기존 기법 대비 유출을 최대 87.2%까지 줄이면서도 정확도 손실은 최소화해, 프라이버시와 성능 간 균형을 크게 개선했다.

• •엣지 소형모델과 클라우드 LLM이 협력해 답을 생성하는 구조에서 개인정보 유출 위험을 실증했다.
• •질의응답 데이터셋 기반의 새로운 평가 프레임워크로 유출 정도를 정량적으로 측정했다.
• •방어 기법 CoVeil은 디코딩 시 전송 신호를 동적으로 조정해 유출을 억제한다.
• •CoVeil은 기존 기법보다 데이터 유출을 최대 87.2% 줄이면서 정확도 손실은 최소화했다.