이 논문은 트랜스포머 언어모델에서 '전역 작업공간 이론(GWT)'의 점화(ignition) 현상을 정량화하는 지표 '점화 지수(Ignition Index)'를 제안한다. 계층별 선형 프로브 정확도를 입력 신호 강도에 대한 4개변수 시그모이드 함수로 피팅해 급경사 계수를 추출하며, 값이 높을수록 급격한 점화형 전환을, 낮을수록 점진적 축적을 의미한다. 5개 아키텍처군의 11개 모델을 분석한 결과, 순방향 트랜스포머가 상태공간모델(SSM)보다 종합 점화 지수가 89% 높았고 맘바(Mamba)는 전역 브로드캐스트가 없는 것과 일치하는 거의 선형적인 패턴을 보였다. 또한 Huginn-3.5B는 반복 축에서 깊이 축보다 2.12배 높은 점화를 보여 순환 구조가 반복 차원에서 작업공간과 유사한 전환을 나타냄을 시사했으며, Pythia-410M은 학습 스텝 256에서 유도헤드 형성에 앞서는 위상 전환을 보였다. 다만 점화와 모델 규모·신호 강도의 연관성 가설은 확인되지 않았다.

• •GWT 점화 현상을 정량화하는 '점화 지수(Ignition Index)' 제안
• •순방향 트랜스포머가 SSM보다 종합 점화 지수 89% 높음
• •맘바(Mamba)는 전역 브로드캐스트 부재와 일치하는 거의 선형적 패턴
• •Huginn-3.5B, 반복 축에서 깊이 축보다 2.12배 높은 점화
• •Pythia-410M은 학습 스텝 256에서 유도헤드 형성 앞서는 위상전환 관찰