BERT나 비전 트랜스포머처럼 32비트 부동소수점 가중치를 쓰는 트랜스포머 모델에서는 최하위 비트(LSB)를 악성코드를 숨기는 은닉 채널로 악용할 수 있는데, 연구진은 이를 추가 학습이나 데이터 없이 탈취하는 경량 사후처리 기법 '그레이실드'를 제안했다. 그레이실드는 공개된 최하위 비트 채널을 그레이코드 기반의 저전이 수열로 완전히 덮어써 페이로드와 무관하게 만들고, 텐서별로 고유한 키 기반 위상을 추가해 패턴 다양성까지 확보한다. 패치마스크, 사후양자화 등 7개 기존 사후방어 기법과 4개 트랜스포머 모델, 실제 악성코드 페이로드 2종을 대상으로 비교한 결과, 정확도 저하는 1퍼센트 미만으로 유지하면서 5가지 공격자 변형 아래에서 평균 49.96퍼센트포인트의 복원율 감소를 달성했다. 방어 적용 전 복원율이 거의 100퍼센트였던 점을 고려하면, 이는 사후 비트 정확도가 거의 무작위 확률 수준까지 떨어졌다는 의미로, 기존 비교 기법보다 가중치 분포 변화도 훨씬 작게 유지했다.
- •그레이실드는 트랜스포머 32비트 가중치의 LSB 은닉채널을 추가 학습이나 데이터 없이 무력화한다
- •그레이코드 기반 저전이 수열과 텐서별 키 위상으로 페이로드와 무관하게 덮어쓴다
- •7개 기존 방어기법, 4개 모델, 실제 악성코드 2종 비교에서 정확도 저하는 1% 미만이었다
- •5가지 공격자 변형에서 평균 49.96퍼센트포인트의 복원율 감소를 달성했다
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
GrayShield: Bit-Level Sanitization for Transformer Model Supply-Chain Security
- 1.BERT·ViT 등 트랜스포머 32비트 가중치의 최하위비트(LSB)가 악성코드 은닉채널로 쓰일 수 있다는 공급망 위협 제기
- 2.학습후 데이터 없이 적용되는 경량 새니타이제이션 'GrayShield', 그레이코드 저전이 시퀀스로 LSB 채널을 전면 덮어씀
- 3.4개 트랜스포머·2개 실제 악성코드로 검증, 정확도 영향 1% 미만 유지
- 4.복구감소율 49.96%p로 거의 100%였던 페이로드 복구를 이진확률 수준까지 낮춰 PatternMask·PTQ보다 안정적
왜 중요한가?
AI 모델 공급망에서 가중치 파일 자체가 악성코드 유포 경로가 될 수 있다는 위협에 대해, 모델 성능을 거의 해치지 않으면서 해당 은닉채널의 용량을 실질적으로 제거하는 실용적 방어책을 제시한다.
언급 프로젝트
트랜스포머 모델의 가중치에서 최하위 비트(LSBs)를 악용하여 은밀한 채널로 활용될 수 있음을 지적하며 모델 공급망 보안의 중요성을 강조합니다. 한국 기업들이 BERT나 ViT 같은 트랜스포머 모델을 활용하는 비중이 높아지는 만큼, 모델의 '비트 레벨' 보안 취약점에 대한 인식이 필요하며 이는 AI 모델 개발 및 배포 과정의 신뢰성을 확보하는 데 필수적입니다.
본문 미리보기
arXiv:2610.04319v1 Announce Type: new Abstract: Transformer models such as BERT and Vision Transformer~(ViT) achieve strong performance via densely parameterized attention backbones. However, the least significant bits~(LSBs) of their 32-bit floating-point weights can be abused as covert channels to conceal malicious payloads, posing a serious threat to the AI model supply chain. We propose \GS (\GSabbr), a lightweight, post-training, zero-data sanitization method that completely replaces the d
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 11:24AI 초안
