장기 로봇 조작은 한 번의 잘못된 단계가 상태를 악화시키고 정책이 회복 불가능한 영역으로 빠지며 점진적으로 실패하는데, 이 실패는 발생 전에 종종 감지된다. AEGIS는 약한 정책의 동결된 활성값에 경량 프로브를 붙여 아직 대응할 시간이 있을 때 고위험 단계를 탐지하고, 프로브가 위험을 표시한 단계에만 더 강한 별도 정책으로 제어를 전환하는 선택적 에스컬레이션 기법이다. LIBERO-Spatial에서 약한 정책이 놓치는 궤적의 10.1%를 회복해 예산 동일 맹목적 에스컬레이션(4.6%)과 무작위 트리거(5.1%)를 앞섰고, 사전 등록된 McNemar 검정에서 유의미했다(blind 대비 +5.4%p, p=8.5e-6). 강한 정책은 전체 단계의 38%에서만 작동해 핵심 지렛대가 연산량이 아닌 '타이밍'임을 보였으며, 프로브의 초기 윈도우 AUROC는 0.764였다.
- •약한 정책의 동결 활성값에 경량 프로브를 붙여 고위험 단계를 조기 경보하는 선택적 에스컬레이션
- •LIBERO-Spatial에서 손실 궤적의 10.1% 회복, 맹목적 에스컬레이션 4.6%·무작위 5.1%보다 우수
- •블라인드 대비 +5.4%p(p=8.5e-6), 무작위 대비 +5.0%p(p=1.0e-4)로 통계적 유의
- •강한 정책을 전체 단계의 38%에서만 가동해 핵심 지렉대가 연산량이 아닌 타이밍임을 입증
- •프로브는 궤적 초기 30% 구간에서 AUROC 0.764(95% CI 0.70~0.84) 달성
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
AEGIS: A Backup Reflex for Physical AI
- 1.약한 정책의 활성화에 경량 프로브를 적용해 고위험 단계를 조기 경보하는 AEGIS 제안
- 2.위험 감지 시에만 강한 정책으로 전환하는 선택적 에스컬레이션 방식
- 3.LIBERO-Spatial서 약정책 실패 궤적의 10.1% 회복, 블라인드 4.6% 대비 우위
- 4.전체 38% 단계에서만 강정책 작동, 핵심은 연산량이 아닌 개입 타이밍
왜 중요한가?
장기 로봇 조작이 점진적으로 실패하며 회복 불능에 빠지는 문제를, 실패가 가시화되는 시점을 프로브로 포착해 최소 개입으로 회복률을 높인다는 점에서 실용적 안전장치로 가치가 있다.
언급 프로젝트
로봇 조작 중 발생할 수 있는 점진적인 실패를 조기에 감지하고 복구하는 '백업 반사' 시스템 AEGIS를 소개합니다. 로봇 산업이 발전하고 있는 한국에서, 이러한 물리적 AI의 안전성과 신뢰성을 확보하는 기술은 실제 작업 환경에서 로봇 도입을 가속화하고 사고 위험을 줄이는 데 필수적입니다.
본문 미리보기
arXiv:2606.06660v1 Announce Type: new Abstract: Long-horizon robot manipulation tends to fail gradually: one bad step degrades the state, and the policy spirals into a basin from which it cannot recover. The failure is often visible before it happens. We introduce AEGIS (Activation-probe Early-warning, Gated Inference Switching), a selective escalation method that uses a lightweight probe on a weak policy's frozen activations to detect high-risk steps while there is still time to act. When the
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 13:12AI 초안
