오프라인 강화학습(RL) 플랫폼을 겨냥한 신종 백도어 공격 기법 UBA-ORL이 공개됐다. 공격자는 정상 훈련 중에는 숨어 있다가, 규정 준수를 위한 데이터 삭제(언러닝) 요청이 들어오는 순간 백도어를 활성화한다. 트리거와 악성 행동을 연결하는 '백도어 궤적'과 동일 트리거를 쓰지만 정상 행동을 유지하는 '위장 궤적'을 함께 주입해, 위장 궤적이 삭제되면 잠재된 백도어 신호가 다시 우세해지는 이중 샘플 메커니즘을 쓴다. 실험 결과 여러 오프라인 RL 설정에서 통제 가능한 방식으로 공격이 활성화됨이 확인됐다. 컴플라이언스 목적의 언러닝 서비스가 오히려 새로운 보안 위협을 열 수 있어, 삭제 전후를 함께 감사하는 체계 마련이 시급함을 시사한다.
- •UBA-ORL은 데이터 삭제(언러닝) 요청 시점에 활성화되는 최초의 오프라인 RL 백도어 공격
- •백도어 궤적(BD)과 위장 궤적(CM)을 함께 주입해 정상 훈련 중엔 공격을 숨김
- •CM이 삭제되면 잠재된 BD 신호가 다시 우세해지며 백도어 재활성화
- •여러 오프라인 RL 설정에서 통제 가능한 공격 활성화를 실증
- •컴플라이언스 언러닝 서비스에 삭제 전후 통합 감사 체계 필요성 제기
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
UBA-ORL: Unlearning-Activated Backdoor Attacks on Offline Reinforcement Learning
- 1.정상 학습 땐 숨어있다 언러닝(데이터삭제) 요청 후에만 발현되는 백도어 UBA-ORL 제안
- 2.동일 트리거의 백도어(BD)·위장(CM) 궤적을 이중 주입해 학습 중 경쟁시킴
- 3.CM 삭제 요청이 들어오면 잔여 BD 신호가 우세해지며 백도어 재활성화
- 4.오프라인 강화학습에서 컴플라이언스 언러닝의 새 보안 위협을 최초로 실증
왜 중요한가?
데이터 삭제 요청 처리 자체가 새 공격 벡터가 될 수 있음을 보여줘, 오프라인 RL을 쓰는 자율주행·추천 시스템 등에 언러닝 전후 감사체계 마련이 시급함을 시사한다.
언급 프로젝트
본문 미리보기
arXiv:2609.22711v1 Announce Type: new Abstract: Offline reinforcement learning (offline RL) enables policy learning from pre-collected static datasets without online exploration, and is increasingly deployed not only in safety-critical domains such as autonomous driving and robotic control but also in data-mining applications such as recommendation and behavior analysis. While compliance-driven data removal enhances privacy, it also opens a previously unrecognized attack surface. We introduce U
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 11:24AI 초안

![[10월12일] AI가 암을 치료해도 원리를 알아야 할까…수학자 타오의 질문에 쏟아진 반론](https://cdn.aitimes.com/news/photo/202610/216150_220160_1157.jpg)

