카네기멜론·MIT·코넬 연구진은 트럼프 피격 사건과 찰리 커크 암살 사건 직후 약 7분간 구글 제미나이와 대화한 참가자들이 정적인 팩트시트를 읽은 집단보다 음모론 신념이 더 크게 줄었다는 실험 결과를 발표했다. 두 사건 모두 모델의 학습 시점 이후 발생해 사전 지식 없이 시스템 프롬프트에 입력된 확인된 사실과 미확인 주장만으로 대화가 진행됐다. 모델은 증거가 부족했던 트럼프 사건에서는 인식론적 겸손과 소크라테스식 질문을 활용했고, 정보가 더 많았던 커크 사건에서는 사실 논증과 음모론적 사고의 사회적 해악을 강조하는 전략을 구사했다. 흥미롭게도 이 효과는 두 달 뒤 발생한 별개의 사건에 대한 음모론 신념 감소로도 이어져, 사전 경고 없이도 향후 허위정보에 대한 '선제적 면역' 효과가 나타났다.

• •7분 내외 챗봇 대화, 팩트시트 열람보다 음모론 신념 감소 효과 더 컴
• •트럼프 피격·커크 암살 사건 직후 각각 472명·1035명 대상 실험 진행
• •모델은 증거 부족시 소크라테식 질문, 정보 충분시 사실 논증과 사회적 해악 강조로 전략 차별화
• •초기 대화 효과가 두 달 뒤 별개 사건의 음모론 신념 감소로도 전이되는 '선제적 면역' 효과 확인
• •연구진, 동일 기법이 반대로 음모론 확산에도 악용될 수 있다고 경고