AI 조언에 접근할 수 있다는 사실만으로 사람들이 "모른다"고 답할 의향이 거의 사라진다는 것을 총 3,132명 대상 5개 실험(사전등록 4건, 직접 재현 1건)으로 보인 연구다. AI 조언이 틀리도록 문제를 설계해 AI 사용과 정확성을 분리했는데, 조언을 직접 요청했든 단순히 화면에 표시됐든 참가자들은 판단 유보를 포기했다. 그 결과 AI가 없을 때보다 더 많은 문제에 답했지만 정답률은 약 3분의 1로 떨어졌고, 확신은 오히려 2배 가까이 높아졌다. 정확성에 보상하고 오답에 벌점을 주자 AI 조언 추종이 줄고 정확도와 판단 유보가 늘었지만, AI가 없을 때 수준에는 한참 못 미쳤다. AI 제안이 도처에 무차별로 노출되는 시대에, AI가 답의 정확성뿐 아니라 '내가 답할 만큼 아는가'를 판단하는 메타인지 기준 자체를 바꿀 수 있다는 경고다.
- •총 3,132명, 5개 실험(사전등록 4건) — AI 조언이 틀리도록 설계해 사용과 정확성을 분리
- •AI 접근 가능성만으로 판단 유보("모른다") 의향이 거의 소멸 — 요청해서 본 경우든 단순 노출이든 동일
- •답변 수는 늘었지만 정답률은 AI 미제공 대비 약 1/3, 확신은 약 2배로 증가
- •정확성 인센티브와 오답 벌점은 효과가 있으나 AI 없는 조건 수준에는 크게 미달
- •AI 제안의 편재가 인간의 메타인지 임계값 자체를 바꿀 수 있다는 함의
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
AI advice suppresses people's willingness to say "I don't know", even when the advice is wrong and accuracy is incentivized
- 1.AI 조언 접근만으로 '모른다'며 판단을 유보하는 성향이 거의 소멸 — 5개 실험(N=3,132)에서 확인
- 2.AI 조언이 모두 오답이 되도록 설계했음에도 정답률은 AI 없을 때의 약 1/3, 확신도는 2배 가까이 상승
- 3.정확도 보상·오답 벌점을 주면 AI 의존이 줄고 판단 유보가 늘었지만 AI 부재 수준엔 못 미침
- 4.요청하지 않고 단순 표시된 조언만으로도 동일 효과 — 메타인지 임계값 자체가 변한다는 시사
왜 중요한가?
AI 제안이 편재화·비요청화되는 환경에서 답의 정확도만이 아니라 '내가 아는가'를 판단하는 메타인지 기준 자체가 무너질 수 있음을 대규모 사전등록 실험으로 보인 결과다. AI 어시스턴트의 UX·확신도 표시·경고 설계에 직접적 함의가 있다.
이 연구는 AI의 조언이 틀렸을 때조차 사람들이 '모른다'고 말하려는 의지를 억누른다는 점을 지적하며, 이는 한국 사회에 AI가 깊이 통합될수록 발생할 수 있는 중요한 문제입니다. 국내 AI 서비스 개발 및 규제 당국은 사용자들이 AI의 정보를 맹신하지 않고 비판적으로 수용하도록 유도하는 방안 마련에 집중해야 합니다. AI 윤리 및 책임감 있는 AI 시스템 설계에 대한 논의를 심화시킬 필요가 있습니다.
본문 미리보기
arXiv:2607.13562v1 Announce Type: new Abstract: Knowing when to say "I don't know" is fundamental to human judgment, yet AI assistants offer a fluent answer to almost any question. In five experiments (N = 3,132; four preregistered, one direct replication), participants answered difficult questions and could always decline to respond. We engineered the questions so that AI advice was wrong, separating AI use from its accuracy. Merely having access to AI nearly eliminated participants' willingne
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 13:08AI 초안

