LongGuard는 짧은 텍스트로만 학습·평가돼 온 LLM 안전 가드레일이 긴 문맥에서는 왜 실패하는지 규명하고 이를 학습 없이 완화하는 프레임워크다. 0.25천~3만2천 토큰 구간에서 안전 바늘찾기(SafetyNIAH) 실험을 한 결과 15개 주요 가드레일에서 위험 콘텐츠 재현율이 평균 50% 이상 단조적으로 떨어졌으며, 대조 실험 설계로 이는 절대 길이 문제가 아니라 위험 신호가 희석되기 때문임을 밝혔다. 6개 가드레일에 대한 3단계(어텐션-로짓-행동) 분석으로 위험 신호에 대한 어텐션 질량이 희석되고 안전/위험 로짓 격차가 함께 압축되며 탐지 판단이 무너지는 메커니즘을 규명하고, 부분적으로 특화된 소수의 가드 전용 검색 헤드도 찾아냈다. 이를 바탕으로 학습 없이 적용 가능한 청크 탐지(CD)와 어텐션 헤드 샤프닝(AHS), 배포 프로토콜(CAHR)을 제안해 5개 벤치마크에서 6개 가드레일 평균 성능을 각각 22%, 13% 개선했다.

• •0.25k~32k 토큰 구간의 안전 바늘찾기 실험에서 15개 가드레일의 위험 재현율이 평균 50% 이상 하락
• •어텐션-로짓-행동 3단 분석으로 위험 신호 희석이 원인임을 규명, 길이 자체와는 무관함을 입증
• •부분적으로 특화된 가드 전용 검색 헤드 발견 및 학습 없는 완화 기법(청크 탐지, 어텐션 헤드 샤프닝) 제안
• •문맥 길이·감사 방향별 설정을 고르는 CAHR 배포 프로토콜로 6개 가드레일 평균 성능 22%/13% 개선