멀티모달 대형언어모델(MLLM)에서 프롬프트 내 유해한 예시만으로 모델 파라미터 변경 없이 안전하지 않은 출력을 유도하는 '인컨텍스트 탈옥(ICL 재일브레이크)'이 왜, 어떻게 효과가 커지는지에 대한 원리적 이해가 부족했다. 연구진은 안전정렬된 MLLM을 경쟁하는 여러 행동 모드 위에서 작동하는 모델로 보고, 인컨텍스트 예시를 안전/유해 선호를 동적으로 이동시키는 추론시점 증거로 해석하는 '사후확률 재가중 프레임워크'를 제안했다. 이 틀은 탈옥을 증거 축적 과정으로 정식화해 예시 개수, 유해 비율, 적대적 강도, 의미적 다양성에 따른 예측 가능한 스케일링 법칙을 도출한다. 이를 바탕으로 추정된 위험도에 따라 양성 반증거를 적응적으로 주입하는 방어 기법도 함께 제시했으며, 동일한 개입 예산 하에서 기존 인컨텍스트 방어 기법 대비 견고성-유용성 균형을 크게 개선했다.

• •MLLM 프롬프트 내 유해 예시만으로 유도되는 인컨텍스트 탈옥(ICL 재일브레이크)의 작동 원리 규명
• •안전정렬 모델을 경쟁 행동모드 간 사후확률로 모델링, 예시를 증거 축적 과정으로 해석하는 '사후확률 재가중 프레임워크' 제안
• •예시 개수·유해 비율·적대적 강도·의미 다양성에 따른 예측 가능한 스케일링 법칙 도출
• •추정 위험도 기반 양성 반증거 적응 주입 방어법 제시, 기존 기법 대비 견고성-유용성 균형 개선