Model-intrinsic, Weight-level, and Training-free Spectral Fingerprinting for Large Language Models↗ (원문, 새 창)

연구진이 LLM의 소유권 보호와 오프라인 감사를 위해, 쿼리 응답이나 생성 출력에 의존하지 않고 모델 가중치 자체에서 핑거프린트를 추출하는 '모델 고유(model-intrinsic)' 기법을 제안했다. 이 방법은 게이트형 피드포워드 네트워크의 게이트 프로젝션 가중치의 특이값 분포에서 'GATE 스펙트럴 스칼라' 특징을 구성하고, 깊이별 세그먼트 풀링으로 레이어별 특징을 집계해 모델 수준의 핑거프린트를 만든다. 서로 다른 레이어 깊이를 가진 LLM 간에도 비교가 가능하며, 입력 샘플이나 순전파 활성화, 보조 검증기 없이 학습이 필요 없는(training-free) 파이프라인으로 동작한다. 실험 결과 출처가 같은 모델과 무관한 모델 간 명확한 구분이 가능했고, 지시 조정·양자화·가지치기·증류 등 후처리 변형에도 유사도가 안정적으로 유지됐다.

• 쿼리 요똄이뜨 생성 햆려 뜸시 모델 갖중에요 핐거풐린릈 추출하뜤 모델 고유 기법 제안
• 검이튌형 FFN의 검이튌 핖뜴섳션 갖중에 핐이감 뿔렄 뿠흘에요 'GATE 스핮튐랄 스캄래' 횀징 구성
• 길이뿄 세금뿠튀 튄륨을튀놤 요똄 마좼 길이의 LLM 감의뜤 핐걳횀뚴톄 비궔 가놤
• 입뜸 사홀·워전펌 현성화·뾶요 검즘기 없요 뜸시하뜤 학요이 필요 없릈(training-free) 현이효랄인
• 지요 영정·양자화·감지정겈·증률 뇝 햆챕릈 뿀횀에뜨 유사놤가 안정쿼은 윘지된다뜤 거 실똈율릈 확요