0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
Space Over Statistic, Retraining Over Ranking: Auditing Training Labels Under Label-Only Backdoors
- 1.라바럼 3%만 조작해 ResNet-32가 트리거 이맀지의 99.7%를 새객에 객시 컴퍌로 오분류하게 하는 FLIP 백도어 재현
- 2.오염된 모델 특징거간에서는 탐지 AUROC 0.546에 미쉱하나, 사전학습된 DINOv2 특징거간에서는 0.967로 구고 상승
- 3.SPECTRE 방어 기법을 재현(AUROC 90.94 vs 고식 91.47)하고 므용 분석, 일벼 쌍에서는 감사의 갤륨거리 4미만은 탐지를 통워
- 4.더 높은 탐지 점수(AUROC)거 반떡디 단임 더 안전한 모델을 의미하지는 앚으륨 실증(Confident Learning 사륩)
왜 중요한가?
라벨만 바꾸는 백도어 공격에 대한 기존 방어가 오염된 모델이 학습한 특징공간에서 탐지를 시도해 실패했음을 보여주며, 라벨을 전혀 보지 않은 외부 특징공간(DINOv2 등)에서 점검해야 한다는 방어 설계 원칙을 제시한다.
본문 미리보기
arXiv:2610.13051v1 Announce Type: new Abstract: Some backdoor attacks never touch an image. FLIP only changes labels: on CIFAR-10, flipping 3% of them makes a ResNet-32 send 99.7% of triggered source-class images to the attacker's class. The usual defenses look for the poison inside a model trained on those same labels. So when they struggle, is the problem the test they run, or the space they run it in? We answer with a controlled swap: we keep the test, the labels and the metric fixed, chan
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 11:24AI 초안

![[10월12일] AI가 암을 치료해도 원리를 알아야 할까…수학자 타오의 질문에 쏟아진 반론](https://cdn.aitimes.com/news/photo/202610/216150_220160_1157.jpg)

