MGDT는 멀티모달 지식그래프 완성(MKGC)을 위해 '정렬 후 확산(align-then-diffuse)' 패러다임을 도입한 프레임워크다. 기존 확산 기반 방법은 원시 멀티모달 특징에서 바로 denoising을 수행해 관계별 단서 선택, 교차 모달 정렬, 구조 인식 생성이 한꺼번에 뒤엉키는 문제가 있었다. MGDT는 관계 적응형 MoE 모듈(RASR-MoE)로 관계와 무관한 모달리티 간섭을 억제하고, 동결된 멀티모달 LLM을 의미 앵커로 삼아 표현을 통합 잠재 공간에 정렬한 뒤, 그래프 조건부 확산 트랜스포머(KGDT)로 누락 엔티티 표현을 생성한다. 3개 벤치마크에서 강력한 기준선들을 일관되게 능가해, 확산 모델과 MLLM의 결합이 지식그래프 완성에 유효함을 보였다.
- •원시 멀티모달 특징 직접 denoising이 야기하는 의미 불일치 문제를 align-then-diffuse로 해결
- •RASR-MoE가 관계별로 유효한 의미 변환 경로를 선택해 무관 모달리티 간섭 억제
- •동결된 MLLM을 의미 앵커로 사용해 교차 모달 이질성 감소
- •그래프 조건부 확산 트랜스포머(KGDT)로 누락 엔티티 표현 생성
- •3개 벤치마크에서 강력한 기준선 대비 일관된 성능 우위
MGDT: MLLM-Guided Diffusion Transformer with Relation-Adaptive Mixture-of-Experts for Multimodal Knowledge Graph Completion
- 1.멀티모달 지식그래프 완성(MKGC)용 '정렬 후 확산(align-then-diffuse)' 프레임워크 MGDT 제안
- 2.관계 적응형 MoE(RASR-MoE)로 관계 관련 모달 경로만 선택, 무관 모달 간섭 억제
- 3.동결된 MLLM을 시맨틱 앵커로 사용해 모달 간 표현을 통일 잠재 공간에 정렬
- 4.그래프 조건 확산 트랜스포머(KGDT)로 누락 엔티티 생성, 3개 벤치마크에서 베이스라인 상회
왜 중요한가?
원시 멀티모달 특징에서 바로 디노이징하던 기존 확산 기반 MKGC의 노이즈·의미 불일치 문제를 정렬과 생성 단계 분리로 해결한 설계로, 추천·검색용 멀티모달 지식그래프 구축 파이프라인에 참고할 만하다.
🏷️ 언급 프로젝트
본문 미리보기
arXiv:2607.15592v1 Announce Type: new Abstract: Multimodal Knowledge Graph Completion (MKGC) requires inferring missing entities from structural, textual, and visual cues. Existing diffusion-based MKGC methods usually denoise directly on raw multimodal features. Such a design forces the denoiser to simultaneously perform relation-dependent cue selection, cross-modal semantic alignment, and structure-aware entity generation, which introduces noisy and semantically inconsistent conditions for dif
전체 내용이 궁금하다면?
원문을 직접 읽어보세요