저자는 자기 자신의 삶을 소재로 대화형 LLM에게 366일치 '하루 한 쪽' 자서전을 쓰게 한 뒤, 각 날짜를 독립된 검증 자료와 대조해 4단계 루브릭으로 감사한 최초의 정량적 LLM 자서전 확증 감사를 수행했다. 366일 중 354일(96.7%, 95% CI 94.4~98.1%)이 '검증됨' 등급을 받지 못했고, 확증된 장면이 담긴 날은 단 12일에 불과했으며 19일(5.2%)은 기록과 정면으로 배치되는 주장을 담고 있었다. 가장 흔한 실패 유형은 실제 인물·직장·장소가 지어낸 장면 속에 뒤섞이는 '근거 있는 왜곡'이었고, 동일 조건으로 현재 모델들에 재생성을 시켜도 100% 검증 실패가 재현됐다. 다만 당사자의 실제 자료로 생성을 접지시키면 검증 실패율이 유의미하게 낮아지긴 했으나 여전히 83.3%에 달했다.
- •366일치 LLM 자서전을 장면 단위로 감사한 최초의 정량적 확증 감사 사례
- •354/366일(96.7%)이 '검증됨' 등급에 미달, 확증 장면은 12일에 그침
- •가장 흔한 실패 유형은 실제 인물·장소가 가상 장면에 섞이는 '근거 있는 왜곡'
- •당사자 자료로 접지시켜도 검증 실패율이 83.3%로 여전히 높음
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
Auditing the Synthetic Memoir: Measuring Scene-Level Confabulation in LLM-Generated Autobiography Against the Documented Record of the Life It Describes
- 1.LLM이 쓴 366일 분량 '자서전'을 당사자 실제 기록과 대조해 장면 단위 감사, 검증실패율 96.7%(354/366일)
- 2.완전 검증된 날은 12일뿐, 19일은 기록과 명백히 모순되는 내용 포함
- 3.가장 흔한 오류는 '근거 드리프트'—실제 인물·직장·장소를 가상 장면에 잘못 끼워넣는 것
- 4.같은 입력으로 최신 모델 재생성해도 실패율 100% 재현, 당사자 자료로 보강해도 83.3%는 여전히 실패
왜 중요한가?
LLM에 최소 힌트만 주고 개인 서사를 생성하면 대부분 세부내용이 사실무근이라는 것을 정량적으로 보여줘, AI 자서전·회고록 서비스 전반에 신뢰성 경고를 던진다.
본문 미리보기
arXiv:2608.23640v1 Announce Type: new Abstract: When a large language model (LLM) is asked to write a person's life, how much of what it writes actually happened? We present a scene-level case-study audit - the first quantified audit of LLM-generated autobiography against a subject-specific ground-truth corpus that we are aware of, based on an unsystematic literature search. The subject and the author of this paper are the same person: a 366-day "page-a-day" book of first-person anecdotal entri
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 10:39AI 초안
![[AI리더의 서가] Agentic AI 구축 개발의 모든 것](https://cdn.aitimes.com/news/photo/202610/215958_219938_244.jpg)
