생성형 AI가 유창한 글을 저렴하게 만들어내면서 독자는 유창함을 진실의 대리 지표로 신뢰할 수 없게 됐다. 연구진은 사용자가 유창한 환각을 신뢰하는 동시에 정확한 내용도 AI 생성으로 밝혀지면 신뢰도를 깎는 현상을 '유창성 함정(Fluency Trap)'으로 명명했다. 'AI로 제작됨'이라는 이진 라벨은 저작권 공개는 하지만 주장을 뒷받침하는 근거는 보여주지 못한다. 이에 텍스트 내 검증된 주장의 밀도를 시각화하는 인터페이스인 프로버넌스 밀도(Provenance Density)를 제안했다. 81명 참가자 대상 사용자 연구에서 이상적인 인터페이스는 진실과 조작을 구분하는 능력을 크게 향상시켰지만(+4.15점, d=1.82), 아무 신호가 없을 때는 구분 능력이 감지되지 않았다. 동적 질의에서는 검색 밀도보다 '일관성 거부권'이 판별 신호의 대부분을 차지한다는 예상 밖 결과가 나왔다.

• •유창한 AI 글을 신뢰하면서도 AI 생성으로 밝혀지면 정확한 내용조차 신뢰를 깜는 '유창성 함정' 현상을 정의
• •텍스트 내 검증된 주장의 밀도를 보여주는 시각화 인터페이스 '프로버넌스 밀도' 제안
• •81명 사용자 연구에서 이상적 인터페이스가 진실-조작 구분 능력을 유의미하게 향상(+4.15점, d=1.82)
• •아무 신호 없을 때는 참가자가 진실과 조작을 구분하지 못함을 확인
• •동적 질의에서는 검색 밀도보다 '일관성 거부권'이 판별 신호의 대부분을 차지한다는 예상 밖 발견