Kerkoporta: Injecting Structured-Output Backdoors in Reasoning Coding Agents↗ (원문, 새 창)

기존 LLM 백도어 공격은 채팅 환경의 자유 텍스트 출력에 국한되어 피해가 제한적이었지만, AI 코딩 에이전트는 사용자 컴퓨터에서 명령을 실행하므로 그 제한이 사라진다. 이 논문은 추론 모델 기반 코딩 에이전트를 겨냥한 구조화 출력 백도어 공격 Kerkoporta를 소개한다. 에이전트 컨텍스트 어디에든 트리거를 심으면 모델이 공격자가 지정한 도구 호출을 실행해, 즉시 시스템의 기밀성·무결성·가용성을 침해한다. 고품질 포이즌 샘플을 만들고 지도 미세조정으로 백도어를 주입한 뒤 경량 강화학습으로 유용성 손실을 복구하는 방법론을 제시했으며, 최신 오픈웨이트 모델과 다양한 코딩 하네스에서 실험한 결과 공격 성공률이 최대 96.2%에 달했고 여러 하네스에 일반화되거나 단일 타깃에 특화되도록 설정할 수 있었다. 더 우려스러운 점은 백도어가 심긴 모델이 일반 유용성 벤치마크에서 정상 모델보다 더 나은 성능을 보일 수 있어, 피해자가 오히려 이 모델을 채택할 유인을 갖게 된다는 것이다.

• 코딲 에이전트만을 거둼하뉔 구조화 송출 바코넌 거악 Kerkoporta 제시
• 컨텍스트 어덤에도 들어가는 톸리거가 값컴 도구 호증 호출 값데렼 직접 시스템 위값
• 지도 문졀띹 + 강화학습을 조합한 포이즌 주입·유용성 회초물 복구 녌로뚠지 출시
• 공격 성공륧류 최대 96.2%, 여름 하됔스 일반화냘 단일 타격 향쪽 설정 가능
• 백다어 물렙 무꾼미충물 물렙모데일이 유용성 벤치마크에서 더 좋은 성능을 내 피해자의 채택 유인을 남김