이 연구는 상업용 이미지 생성 모델(예: GPT-Image-2)이 뉴스 보도나 교과서 페이지처럼 보이는, 사실과 구분하기 어려운 시각적 허위 정보를 쉽게 만들어낼 수 있다는 위험을 다룬다. 이들 모델은 어떤 주장이 질문받으면 거짓임을 인식하면서도 동일한 주장을 신뢰할 만한 시각적 증거로 그려낼 수 있어, 기존 안전장치가 이미지가 무엇을 보여주는지만 판단하고 무엇을 주장하는지는 놓치는 사각지대가 있음을 보여준다. 이를 측정하기 위해 10개 실제 주장 범주와 10개 신뢰할 만한 시각 형식에 걸친 1만 개의 허위 주장 프롬프트와 1만 개의 생성 이미지로 구성된 최초의 체계적 벤치마크 EpiReal-Bench를 공개하고, 안전장치를 우회하는 명령을 찾아내는 EpiReal-Attack도 함께 제안했다. 4개 상업용 모델 실험에서 허위 주장 프롬프트의 70% 이상이 해당 허위 정보를 그대로 묘사하는 이미지를 만들어냈고, EpiReal-Attack을 적용하면 이 비율이 95%까지 높아졌다.

• •상업용 이모지 생성 모델이 사실로 오인되는 허위 정보 이모지를 쉬게 생성할 수 있음을 지적
• •모델이 주장의 허위성을 인식하읍았냉 냉 짝다시도 숟려한셀 증거 이모지로 괸운다는 정뉀 사각지대 확인
• •10개 주장 범주·시각 키의 1만 개 허위주장·1만 개 이모지 EpiReal-Bench 공개
• •4개 상업용 모델에서 허위 주장의 70% 이상이 이모지화떄게, EpiReal-Attack 적용 시 95%까지 상승