이 연구는 CT 영상과 종단 EHR 데이터를 결합해 사건 발생 시간(TTE)을 예측하는 파운데이션 모델 기반 교차 모달 정렬 프레임워크를 제안한다. 두 모달리티를 도메인 특화 파운데이션 모델로 각각 인코딩한 뒤 후기 융합·대조 정렬·교차 어텐션·공동 어텐션 네 가지 전략으로 공유 잠재 공간에서 정렬한다. 폐색전증(PE) 사망률과 심혈관질환(CVD) 결과 두 과제, 다기관 코호트에서 모달리티 기여가 비슷할 때 융합이 일치도 지수를 단일 모달 대비 1.5~5.4% 향상시켰다. 대조 융합(특히 CLMBR 표현)이 가장 일관되고 통계적으로 견고했으며, 과제·환경에 따라 최적 융합 방식이 달라져 '과제 인지형 멀티모달 정렬'이 견고한 일반화의 필수 설계 원칙임을 보인다.
- •CT 영상과 종단 EHR을 파운데이션 모델로 인코딩해 공유 잠재 공간서 정렬하는 TTE 예측 프레임워크
- •후기 융합·대조 정렬·교차 어텐션·공동 어텐션 네 가지 융합 전략 비교
- •모달리티 기여가 비슷할 때 융합이 일치도 지수를 단일 모달 대비 1.5~5.4% 향상
- •대조 융합(CLMBR)이 가장 일관·견고, PE 사망률 예측에서 특히 우수
- •최적 융합은 과제·환경에 따라 달라져 과제 인지형 정렬이 일반화의 필수 원칙
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
Fusion is not one-size-fits-all: Cross-Modal Representation Alignment for Time-to-Event Modeling
- 1.CT 영상과 종단 EHR를 정렬하는 파운데이션 모델 기반 교차모달 시간-사건 예측 프레임워크 제안
- 2.후기융합·대조정렬·교차어텐션·공어텐션 네 가지 융합 전략을 공유 잠재공간에서 비교
- 3.폐색전증 사망·심혈관질환 두 과제에서 융합이 C-index를 1.5~5.4% 향상
- 4.대조 융합(CLMBR)이 가장 일관되고 통계적으로 견고한 개선 제공
왜 중요한가?
모달리티 불균형과 분포 이동 탓에 어려웠던 임상 다중모달 생존 예측에서, 과제 특성에 맞는 정렬 전략이 강건한 일반화의 필수 설계 원칙임을 다기관 대규모 코호트로 처음 체계적으로 입증해 실제 임상 배포 가능성을 높였다.
언급 프로젝트
다양한 모달리티의 임상 데이터를 활용한 '사건 발생 시간(Time-to-Event) 예측' 모델 연구는 국내 정밀의료 및 디지털 헬스케어 분야에서 매우 중요합니다. 모달리티 불균형 문제를 해결하고 CT 영상과 같은 이종 데이터를 효과적으로 융합하는 방법은 환자 맞춤형 치료 및 예후 예측의 정확도를 높여 국내 의료 AI의 경쟁력을 한층 강화할 것입니다.
본문 미리보기
arXiv:2606.15038v1 Announce Type: new Abstract: Accurate time-to-event (TTE) prediction from multimodal clinical data remains challenging due to modality imbalance and distribution shift. We introduce a foundation model-driven framework for cross-modal representation alignment between CT imaging and longitudinal EHR data, designed to generalize across tasks and institutions. CT and EHR modalities are encoded independently using domain-specific foundation models and aligned in a shared latent sp
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 13:49AI 초안

