현재의 소라(Sora)나 지니(Genie) 같은 세계모델은 물리 현상만 시뮬레이션할 뿐 인간의 믿음이나 욕구, 감정은 반영하지 못한다는 한계를 지적하는 연구가 나왔다. 이를 보완한 '멘탈 월드 모델링' 프레임워크는 신념과 의도 같은 정신적 변수를 모델에 추가하며, 이 방식을 적용하면 더 작은 언어모델도 정신적 모델링이 없는 더 큰 모델보다 뛰어난 성능을 보인다. 연구진은 물리적 상태와 정신적 상태가 함께 변화하는 과정을 예측하는 것이 가장 큰 병목이라고 밝혔다.
- •소라·지니 등 기존 세계모델은 물리만 시뮬레이션, 인간의 신념·의도는 미반영
- •'멘털 월드 모델링'은 신념·의도 등 정신적 변수를 모델에 추가
- •이 방식 적용 시 더 작은 모델도 더 큰 일반 모델보다 우수한 성능
- •물리·정신적 상태의 동시 변화 예측이 가장 큰 기술적 병목으로 지목
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
World models that ignore human beliefs predict the wrong actions, new research shows
- 1.Sora·Genie 같은 기존 세계모델은 물리 법칙만 시뮬레이션하고 사람의 생각·의도는 무시한다는 문제 제기
- 2.새 'Mental World Modeling' 프레임워크는 신념·의도 같은 정신적 변수를 모델에 추가
- 3.이 접근을 쓴 상대적으로 약한 언어모델이 정신 모델링 없는 더 강력한 모델보다 우수한 성능 기록
- 4.물리적·정신적 상태가 함께 변화하는 과정을 예측하는 것이 가장 큰 병목으로 지목됨
왜 중요한가?
물리 법칙만 학습한 세계모델은 사람의 믿음과 의도를 반영하지 못해 잘못된 행동을 예측할 수 있다는 지적으로, 로봇·에이전트가 인간과 상호작용하는 실제 환경에 세계모델을 적용하려면 정신 상태 모델링이 필요함을 시사한다.
본문 미리보기
Current world models like Sora or Genie only simulate physics and ignore what people think, want, or feel. The new "Mental World Modeling" framework adds mental variables like beliefs and intentions. Even weaker language models using this approach outperform stronger models without mental modeling. The biggest bottleneck: predicting how physical and mental states change together. The article World models that ignore human beliefs predict the wrong actions, new research shows appeared first on Th
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 10:33AI 초안
![[AI리더의 서가] Agentic AI 구축 개발의 모든 것](https://cdn.aitimes.com/news/photo/202610/215958_219938_244.jpg)
