AIarXiv cs.CR (암호학·보안)AI 점수 70%
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
Not an Accident: Exploiting Safety Filter Inadequacy in Humanoid Robots (원문, 새 창)
AI 인사이트
대상 독자:개발자일반
- 휴머노이드 로봇 안전필터 설정오류 시 충돌방지 보장이 깨짐, 일반 사용자 상호작용만으로도 공격 가능 실증
- 취약 목표지점 자동탐색 '목표삽입 공격' 도구 SIREN 개발, SPARK 전 취약시나리오서 공격 식별
- 베이스라인 대비 3배 많은 공격 발견, 실제 휴머노이드에 충돌 유발 공격 성공
왜 중요한가
안전을 보장한다던 안전필터 자체가 설정오류로 새로운 안전위험의 근원이 될 수 있음을 실증해, 검증방식 재검토를 요구한다.
본문 미리보기
arXiv:2610.31923v1 Announce Type: new Abstract: As humanoid robots move from research laboratories toward deployment in human-centered environments such as homes, hospitals, and warehouses, safe operation around nearby people and objects becomes a fundamental requirement. Safety filters have emerged as a promising technique to address this challenge by providing mathematical guarantees that generated control actions do not result in collisions. This paper shows that these guarantees hold only
전체 내용이 궁금하다면?
arXiv cs.CR (암호학·보안)에서 원문을 직접 읽어보세요
공유
- #휴머노이드로봇
- #안전필터
- #제어보증
- #로보틱스
이 글이 만들어진 과정
- 11:34AI 초안