연구진은 ECG, 심장초음파, 흉부 X선, 임상 변수 등 서로 다른 심장 진단 모달리티를 사전학습 단계부터 잠재 공간에서 직접 통합하는 멀티모달 마스크 오토인코더 LAMAE를 제안했다. 기존 의료 파운데이션 모델이 모달리티별로 학습한 뒤 후처리로 결합하던 것과 달리, LAMAE는 스터디-뷰-엔티티 계층 구조 위에서 공유 잠재 어텐션 모듈로 정보를 교환해 모달리티 간·내부 구조를 동시에 학습한다. MIMIC-IV의 120만 건 이상 입원 데이터로 사전학습한 결과 병원 내 사망률, ICD-10·DRG 코딩, 재원 기간 등 여러 과제에서 모달리티별 사전학습 및 대조학습·비전-언어 기반선을 능가했고, 테스트 시 일부 모달리티만 있어도 성능이 유지됐다. 데이터가 불완전한 실제 임상 환경에서도 안정적인 표현 학습이 가능함을 시사한다.
- •ECG·심장초음파·흉부X선·임상변수를 사전학습 단계에서 잠재 공간으로 직접 융합하는 LAMAE 제안
- •스터디-뷰-엔티티 계층 구조의 공유 잠재 어텐션 모듈로 모달리티 간·내부 구조 동시 학습
- •MIMIC-IV 120만 건 이상 입원 데이터로 사전학습
- •병원 내 사망률, ICD-10/DRG 코딩, 재원 기간 예측에서 기존 모달리티별 및 대조학습 기법 능가
- •테스트 시 단일 모달리티만 있어도 성능 유지, 결측 모달리티에 강건
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
Reading the Whole Heart: Latent-Attention Masked Autoencoders for Multimodal Cardiac Representation Learning
- 1.ECG·심장초음파·흉부X선·임상변수를 잠재공간에서 직접 융합하는 다중모달 마스크 오토인코더 'LAMAE' 제안
- 2.스터디-뷰-엔티티 계층 구조의 공유 잠재 어텐션 모듈로 모달리티 결측을 유연하게 처리
- 3.MIMIC-IV 병원 입원 기록 120만 건으로 사전학습, 사망·코딩·재원일수 예측에서 기존 방식들을 능가
- 4.테스트 시 단일 모달리티만 주어져도 성능 우위가 유지돼 강건성을 입증
왜 중요한가?
임상에서 흔한 '일부 검사만 존재하는' 상황에서도 성능이 유지되는 다중모달 파운데이션 모델이라는 점에서, 실제 병원 데이터 특성에 맞춘 임상 의사결정 지원 개발에 실용적 기반을 제공한다.
본문 미리보기
arXiv:2609.12035v1 Announce Type: new Abstract: Cardiovascular diagnosis rests on integrating complementary modalities, like ECG, echocardiography, chest radiographs, and clinical variables, each capturing distinct but correlated aspects of cardiac physiology. Yet most medical foundation models remain modality-specific, combining modalities only for finetuning or post-training. This discards the cross-modal evidence clinicians naturally integrate and ignores the structure within each modality.
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 10:40AI 초안

![[10월12일] AI가 암을 치료해도 원리를 알아야 할까…수학자 타오의 질문에 쏟아진 반론](https://cdn.aitimes.com/news/photo/202610/216150_220160_1157.jpg)

