NVIDIA가 수술 로봇용 실시간 행동조건부 생성 시뮬레이터 Cosmos-H-Dreams를 공개했다. 기존 Cosmos-H-Surgical-Simulator(Cosmos-Predict2.5-2B 기반)를 인과적 소수 스텝 학생 모델로 증류하고 스트리밍 추론 라이브러리 FlashDreams로 서빙해, RTX PRO 6000 한 장에서 약 10fps였던 생성 속도를 약 160fps의 인터랙티브 구간까지 끌어올렸다. dVRK 탁상 봉합 작업에 특화했고 바늘 낙하·매듭 실패 같은 실패 에피소드까지 학습해 잘못된 행동의 결과도 재현하며, self-forcing 증류로 자기 출력 누적 오차 문제를 완화했다. 브라우저·Meta Quest 조작과 학습된 정책의 폐루프 연결을 지원해, 값비싼 실물 로봇 없이 수술 정책을 학습하고 평가할 환경을 제공한다.
- •Cosmos-H-Surgical-Simulator를 인과적 학생 모델로 증류해 잠재 프레임당 최소 2스텝 확산으로 자기회귀 실시간 생성을 구현했다.
- •FlashDreams의 스트리밍 KV 캐시, CUDA Graph 캡처, 모델 컴파일 최적화로 단일 RTX PRO 6000에서 약 160fps를 달성했다.
- •JHU dVRK 탁상 데이터에 바늘 낙하·헛된 스로·매듭 실패 등 실패 및 분포 외 에피소드를 포함해 나쁜 행동의 결과도 재현한다.
- •학습 중 자기 생성 컨텍스트로 롤아웃하고 교사 모델이 분포를 정합시키는 self-forcing 증류로 오차 누적을 완화했다.
- •WebRTC 브라우저 클라이언트, WebXR 기반 Meta Quest 조작을 지원하며 CMR Surgical의 Versius 컨트롤러와도 통합했다.
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
NVIDIA Cosmos-H-Dreams: Bringing Real-Time Generative Simulation to Surgical Robotics
전체 내용이 궁금하다면?
원문을 직접 읽어보세요