이 연구는 배치 프롬프팅이 LLM 추론 효율을 높이는 실용적 기법이지만 안전성 측면에서는 새로운 취약점을 만든다는 사실을 보였다. 단독으로 물으면 확실히 거부되는 유해한 질문도 여러 개의 무해한 질문과 함께 배치에 섞어 넣으면 유해한 답변을 이끌어낼 수 있었다. 연구진은 이를 인컨텍스트 학습이나 롱컨텍스트 효과로 환원되지 않는 별개의 안전 실패 유형으로 규정하고, 정렬 신호 약화와 거부 신호 희석이라는 두 원인으로 분석했다. 널리 쓰이는 오픈소스·프론티어 상용 모델 전반에서 배치 프롬프팅은 간단한 블랙박스 공격만으로도 높은 공격 성공률을 보였으며, 배치를 인식하는 선호도 최적화 기법이 이 취약점을 효과적으로 완화하는 것으로 나타났다.

• •단독 질문 시 거부되는 유해 질문도 무해한 질문들과 배치로 섞으면 유해 응답 유도
• •인컨텍스트 학습·롱컨텍스트 효과로 설명되지 않는 새로운 안전 실패 유형으로 규정
• •정렜신호 약화와 거부신호 희석이라는 두 가지 원인 메커니즘 분석
• •오픈소스·프론티어 상용 모델 전반에서 간단한 블랙박스 공격만으로 높은 성공률
• •배치를 인식하는 선호도 최적화로 취약점 효과적 완화 확인