이 논문은 멀티모달 대형언어모델(MLLM)이 이미지·텍스트 어느 쪽에도 백도어 트리거가 숨을 수 있는 구축 파이프라인의 위험을 그대로 물려받는다고 지적하며, 기존 방어가 대부분 추론 시점에 의심스러운 입력을 걸러낼 뿐 모델에 내장된 백도어 자체는 제거하지 못한다고 진단한다. 연구진은 백도어가 계층 간 내부 표현에 비정상적 변화를 일으킨다는 '계층별 비일관성 이상' 관찰에 기반해 모델 자체를 수리하는 프레임워크 'RACER'를 제안한다. RACER는 융합된 표현을 시각·텍스트 토큰 영역으로 분해해 각각의 비일관성을 정규화한 뒤 모달리티 인식 가중치로 재조합하고, 최악의 경우를 가정한 최소최대 최적화로 적대적 파인튜닝을 수행한다. 트리거나 공격 목표, 백도어 존재 여부조차 몰라도 단 100개의 정상 샘플만으로 작동하며, 3개 오픈소스 MLLM·36개 백도어 설정 실험에서 평균 공격성공률을 1.1%로 낮추고 32개 설정에서는 0%를 달성하면서도 정상 작업 성능은 유지했다.
- •MLLM은 이미지·텍스트 어디든 백도어 트리거가 숨을 수 있어 기존 방어는 추론 시점 필터링에 그침
- •백도어가 유발하는 '계층별 비일관성 이상'에 기반한 모델 자체 수리 프레임워크 'RACER' 제안
- •트리거·공격목표·백도어 존재 여부를 몰라도 정상 샘플 100개만으로 작동
- •3개 MLLM·36개 백도어 설정에서 평균 공격성공률 1.1%(32개 설정 0%) 달성, 정상 성능은 유지
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
Not All Tokens Are Equal: Region-Aware Consistency Repair of Backdoors in MLLMs
- 1.MLLM 백도어가 계층간 내부표현의 비정상 변화로 나타난다는 관찰에 기반한 복구프레임워크 RACER 제안
- 2.시각·텍스트 토큰영역을 분리해 계층별 불일치를 정규화 후 모달리티인식 가중치로 재결합
- 3.클린 샘플 100개만으로 3개 MLLM·36개 백도어 설정에서 평균 ASR 1.1%, 32건은 0%로 낮춤
- 4.정상 작업 성능은 백도어·클린 모델 모두에서 유지
왜 중요한가?
추론시점 필터링에 그쳤던 기존 방어와 달리 모델 내부 백도어를 트리거 정보 없이 제거해 사후 제거 실용성을 높인다.
언급 프로젝트
이미지와 텍스트를 모두 다루는 MLLM의 백도어 취약점을 해결하는 이 연구는 국내 융합 AI 서비스의 신뢰성 확보에 매우 중요합니다. MLLM이 스마트 시티, 제조 등 다양한 산업에 적용되는 만큼, 백도어 공격은 심각한 보안 위협이 될 수 있습니다. 국내 기업과 연구기관은 AI 모델의 안전한 배포를 위해 이러한 백도어 제거 기술의 개발 및 적용에 적극적으로 투자해야 합니다.
본문 미리보기
arXiv:2608.24354v1 Announce Type: new Abstract: MLLMs are increasingly deployed in user-facing applications, yet they inherit backdoor risks from the pipelines used to construct them: triggers may reside in images, texts, or both. Existing model-level backdoor removal methods, largely designed for conventional classifiers, show limited effectiveness on MLLMs, while MLLM-specific defenses mainly operate at inference time, filtering suspicious inputs without removing the backdoor embedded in the
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 11:24AI 초안
![[AI리더의 서가] Agentic AI 구축 개발의 모든 것](https://cdn.aitimes.com/news/photo/202610/215958_219938_244.jpg)
