ThinkDeception은 멀티모달 기만 탐지를 이진 분류에서 명시적 인지 추론 과정으로 전환하는 해석가능 프레임워크다. 블랙박스 방식의 해석성 부족과 교차모달 불일치 포착의 한계를 넘기 위해 멀티모달 대형언어모델(MLLM)을 이 분야에 처음 도입한다. 단계별 멀티모달 사고연쇄(CoT) 데이터셋을 처음 구축해 기반 모델 ThinkDeception Base를 만들고 모달 불일치의 핵심 역할을 실증했다. 핵심 혁신은 시청각 일관성 기반 VAC-GRPO로, 데이터를 4단계 난이도로 계층화한 점진적 커리큘럼과 과정 인식 보상·반성적 학습을 결합한다. 주요 벤치마크에서 탐지 정확도와 근거 품질 모두 새로운 SOTA를 달성했다.
- •ThinkDeception: 멀티모달 기만 탐지를 이진 분류에서 해석가능한 명시적 인지 추론으로 전환
- •MLLM을 기만 탐지에 처음 도입, 단계별 멀티모달 CoT 데이터셋 최초 구축
- •모달 불일치가 기만 해독의 핵심임을 ThinkDeception Base로 실증
- •핵심: 시청각 일관성 VAC-GRPO + 4단계 난이도 점진 커리퀲·과정 인식 보상·반성적 학습
- •주요 벤치마크에서 탐지 정확도·근거 품질 모두 신규 SOTA 달성
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
ThinkDeception: A Progressive Reinforcement Learning Framework for Interpretable Multimodal Deception Detection
- 1.ThinkDeception: 멀티모달 기만 탐지를 이진 분류가 아닌 명시적 인지 추론 과정으로 전환
- 2.단계별 멀티모달 Chain-of-Thought 데이터셋을 최초 구축해 기반 모델 학습
- 3.표준 GRPO와 달리 시청각 일관성 기반 VAC-GRPO와 4단계 난이도 점진 학습 적용
- 4.주류 벤치마크에서 탐지 정확도와 근거 품질 모두 새로운 SOTA 달성
왜 중요한가?
기존 블랙박스 기만 탐지가 추론 근거를 제시하지 못하던 한계를, MLLM과 단계별 CoT·일관성 보상으로 해석 가능하게 만들어 사기 의도 판별에 투명한 근거를 제공한다.
언급 프로젝트
설명 가능한 다중 모달 기만 탐지 기술은 딥페이크와 온라인 사기가 증가하는 국내 환경에서 금융 및 사회 안전 분야에 필수적입니다. 이 연구는 AI의 판단 과정을 투명하게 이해할 수 있도록 도와, 국내에서 신뢰할 수 있고 법적 책임을 물을 수 있는 AI 기반 사기 방지 시스템을 구축하는 데 중요한 기반을 제공할 것입니다.
본문 미리보기
arXiv:2606.18988v1 Announce Type: new Abstract: Multimodal deception detection is critical for identifying fraudulent intentions, yet existing approaches predominantly rely on end to end black--box paradigms. These methods suffer from a severe lack of interpretability failing to provide transparent reasoning trajectories and struggling to explicitly capture the subtle, cross modal inconsistencies inherent in deceptive behaviors. To transcend these limitations, we propose ThinkDeception, a novel
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 11:23AI 초안
