언어 모델이 최종 답변을 표현하기 전에 내부적으로 언제 답변 선호도가 확정되는지를 연구하는 '사전 언어화 확약' 이론을 제시합니다. 유한 답변 집합에 대한 연속 확률을 투영하는 유한 답변 선호 안정화 개념을 도입하며, 이진 과제에서는 정확한 로그 오즈 코드를 도출합니다. Qwen3-4B-Instruct 모델 실험에서 맥락적 유한 답변 투영은 답변이 파싱 가능해지기 17~31 토큰 전에 안정화됩니다. 이 신호는 탐침 없이 모델의 최종 출력을 추적하며 압축 은닉 요약에서 선형적으로 복원 가능합니다.

• •언어 모델이 최종 답변을 생성하기 전에 내부적으로 답변 선호도가 언제 확정되는지를 연속 확률 투영으로 정량화하는 새로운 틀을 제시한다.
• •이진 과제에서 정확한 로그 오즈 코드 대상인 유한 답변 투영은 greedy 평가나 학습 탐침 없이 파서 기반 답변 시작 시점과 안정화 시간을 정의한다.
• •Qwen3-4B-Instruct에서 맥락적 유한 답변 투영은 답변이 파싱 가능해지기 17~31 토큰 전에 안정화되며, 첨생 저진행음에서도 포지츯브 리드를 보인다.
• •이 신호는 모델의 최종 출력을 추적하며 압축된 은닉 요약에서 선형적으로 복원 가능하고, 카서 진의로부터 부분적으로 분리될 수 있는 특성을 가진다.