이 연구는 로봇 조작 정책의 학습·평가에 쓰이는 3D 시뮬레이터 자산에서, 렌더링용 시각 메시(visual mesh)와 물리 상호작용용 충돌 메시(collision mesh)가 계산 효율을 위해 서로 다른 대강의 지오메트리를 가질 수 있다는 정당하고 흔한 차이(V-C Gap, 시각-충돌 간극)를 새로운 공격면으로 활용할 수 있음을 보였다. 연구진은 3D 자산 공급망을 통해 전달되는 첫 로봇 조작 중독 공격인 '충돌 메시 중독(CMP)'을 제안하는데, 공격자는 시각 메시와 다른 모든 요소는 그대로 둔 채 충돌 메시만 변조한다. 중독된 자산으로 학습·평가된 정책은 시뮬레이션 내내 정상적으로 작동하지만 실제 세계에 배포되면 성능 저하, 실패, 혹은 물리적 안전 위험을 일으킨다. 현재 자산 검수 관행이 악성코드, 저작권, 형식 준수는 점검하지만 시각-충돌 일관성은 검사하지 않기 때문에 중독된 자산이 정상적인 공급망 채널을 통해 유통될 수 있다. 연구진이 여러 방어책을 평가한 결과 CMP를 막기에는 모두 불충분해, 새로운 방어 기법이 필요하다는 점이 드러났다.
- •3D 시뮬레이터 자산의 시각 메시-충돌 메시 간 의도된 차이('V-C Gap')를 새로운 공격면으로 규명
- •3D 자산 공급망을 통한 첩 로봇 조작 중독 공격 '충돌 메시 중독(CMP)' 제안, 충돌 메시만 변조
- •중독된 자산으로 학습된 정책은 시뮬레이션에서는 정상 작동하지만 실제 배포 시 성능 저하·실패·안전 위험 유발
- •기존 자산 검수는 악성코드·저작권·형식만 점검해 시각-충돌 불일치를 놓쳐 정상 채널로 유통 가능
- •여러 방어책을 평가했으나 모두 CMP 방어에 불충분함을 확인, 새 방어 기법 필요성 제기
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
"Your Robot Was Trained on a Lie": Collision Mesh Poisoning Attacks on Robotic Manipulation
- 1.로봇 시뮬레이터의 3D 에셋에서 시각 메시와 물리용 충돌 메시가 다른 '시각-충돌 간극'을 새 공격면으로 규명
- 2.충돌 메시만 조작하고 시각 메시는 그대로 두는 최초의 로봇 조작 대상 3D 에셋 공급망 중독 공격 CMP 제안
- 3.오염된 에셋으로 학습·평가된 정책은 시뮬레이션에선 정상이지만 실제 배포 시 저하·실패·안전위험을 유발
- 4.기존 에셋 검수는 악성코드·저작권·포맷만 검사, 시각-충돌 일관성은 미검사라 정상 경로로 유포 가능
- 5.시험한 여러 방어책 모두 CMP 공격을 막기에 불충분함을 확인
왜 중요한가?
실제 로봇 배포 전 검증 과정에서 사실상 누구도 점검하지 않는 3D 에셋 공급망 취약점을 최초로 실증해, 로보틱스 시뮬레이션·에셋 유통 생태계 전반의 보안 검수 기준 마련이 시급함을 보여준다.
본문 미리보기
arXiv:2609.18122v1 Announce Type: new Abstract: Learning-enabled robotic manipulation increasingly relies on robot simulators for policy training and evaluation before real-world deployment. Inside a simulator, a 3D asset contains two separate geometries: a visual mesh used for rendering and a collision mesh used for physical interaction. For computational efficiency, the collision mesh is deliberately a coarse approximation that need not have the same geometry as the visual mesh, a legitimate
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 11:24AI 초안

![[10월12일] AI가 암을 치료해도 원리를 알아야 할까…수학자 타오의 질문에 쏟아진 반론](https://cdn.aitimes.com/news/photo/202610/216150_220160_1157.jpg)

