연구진은 MNIST와 패션-MNIST 데이터셋에서 로지스틱회귀, 선형SVM, 랜덤포레스트 세 가지 분류기를 대상으로 레이블 뒤집기와 백도어 오염이라는 두 가지 대표적 데이터 오염(포이즈닝) 공격을 5%·10%·20% 오염률로 평가했다. 레이블 뒤집기는 로지스틱회귀와 선형SVM에서 가장 큰 성능 저하를 일으킨 반면 랜덤포레스트는 상대적으로 안정적이었다. 반면 백도어 오염은 두 데이터셋과 세 모델 전반에서 공격 성공률 96.67~100%를 기록하면서도 일반 테스트 정확도는 정상 수준에 가깝게 유지돼, 표준 지표만으로는 탐지되지 않는 은밀함을 보였다. 연구진은 무차별적 오염은 표준 지표에서 드러나지만 표적형 백도어 오염은 은밀하게 악성 행동을 심는다는 점에서 일반적인 클린 테스트 정확도를 넘어선 보안 중심 평가가 필요하다고 결론지었다.
- •MNIST·패션-MNIST에서 로지스틱회귀·선형SVM·랜덤포레스트 대상 레이블 뒤집기·백도어 오염 공격 평가
- •레이블 뒤집기는 로지스틱회귀·선형SVM에서 성능 크게 저하, 랜덤포레스트는 비교적 안정적
- •백도어 오염은 공격 성공률 96.67~100%를 기록하면서도 일반 테스트 정확도는 정상 수준 유지
- •무차별 오염은 표준 지표로 탐지 가능하나 표적형 백도어는 은밀해 보안 특화 평가 필요성 제기
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
Empirical Evaluation of Data Poisoning Attacks in Supervised Learning
- 1.MNIST·Fashion-MNIST에서 레이블플립싱과 백도어 포이지닝을 로지스틱회귀·선형SVM·랜덤포레스트 3개 모델로 비교 평가
- 2.레이블플립싱은 로지스틱회귀·SVM 성능을 크게 떨어뜨렸지만 랜덤포레스트는 비교적 안정적
- 3.백도어 포이지닝은 공격성공률 96.67~100%를 기록하면서도 정상 테스트 정확도는 유지되어 은밀함
왜 중요한가?
표준 정확도 지표만으로는 백도어형 데이터 오염을 탐지하기 어렵다는 점을 정량적으로 보여줘, 모델 검증 파이프라인에 공격성공률 등 보안 특화 지표 도입이 필요함을 뒷받침한다.
AI 모델의 신뢰성과 보안은 핵심 과제이며, 본 연구는 학습 데이터 오염 공격의 실제적인 위협을 평가합니다. 이는 한국 기업들이 AI 모델 학습 데이터를 관리하고 보안 정책을 수립하는 데 중요한 참고 자료가 될 것이며, 특히 금융·의료 등 민감 데이터 기반 AI 서비스의 안정성 확보를 위해 이 같은 공격 방어 메커니즘 구축이 시급합니다.
본문 미리보기
arXiv:2609.10952v1 Announce Type: new Abstract: Data poisoning corrupts training data to degrade a model or to plant attacker-controlled behavior. This study evaluates two representative training-time attacks, label flipping and backdoor poisoning, on MNIST and Fashion-MNIST with three baseline classifiers: Logistic Regression, Linear SVM, and Random Forest. Clean training is compared with poisoning rates of 5%, 10%, and 20% using clean-test accuracy, macro-precision, macro-recall, macro-F1, an
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 11:24AI 초안
![[10월12일] AI가 암을 치료해도 원리를 알아야 할까…수학자 타오의 질문에 쏟아진 반론](https://cdn.aitimes.com/news/photo/202610/216150_220160_1157.jpg)
