아동·청소년 등 인지 발달기 사용자와 상호작용하는 AI 컴패니언의 장기 위험을 측정하는 종단 평가 프레임워크 TSJ(Theater-Stage-Judge)를 제안한 연구다. 페르소나 기반 사용자 시뮬레이션, 동적 심리 상태 갱신, 회고적 평가를 결합해 6개 주류 모델을 4개 발달 단계, 24개 위험 차원, 3개 심리 취약성 페르소나에 걸쳐 총 12,960 시뮬레이션 인일(person-day) 분량으로 평가했다. 단기 테스트는 발달적 위험을 체계적으로 과소평가하며, 안정적 위험 추정에는 140턴 이상의 장기 관계 시뮬레이션이 필요했다. 유아기와 성인 이행기가 가장 취약한 단계로, 인지적 신뢰와 정서적 의존이 가장 약한 영역으로 확인됐다. 단발성 안전 평가로는 놓치는 AI 컴패니언의 누적 위험을 측정할 확장 가능한 방법론을 제시한다.
- •페르소나 시뮬레이션+심리 상태 갱신+회고 평가를 결합한 종단 평가 프레임워크 TSJ 제안
- •6개 모델 × 4개 발달 단계 × 24개 위험 차원 × 3개 취약성 페르소나, 총 12,960 시뮬레이션 인일 평가
- •단기 테스트는 발달 위험을 체계적 과소평가 — 안정적 추정에 140턴 이상 필요
- •유아기와 성인 이행기가 최대 취약 단계, 인지적 신뢰·정서적 의존이 최약 영역으로 확인
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
Long-Term Simulation Exposes Cognitive-Developmental Risks in AI Companions
- 1.AI 컴패니언의 장기 상호작용 위험을 평가하는 종단 프레임워크 TSJ 제안
- 2.6개 모델·4개 발달단계·24개 위험차원으로 12,960 person-day 상호작용 시뮬레이션
- 3.단기 테스트는 발달 위험을 과소평가, 140턴 이후에야 안정적 위험 추정 가능
- 4.유아기·성인초기가 가장 취약, 인지적 신뢰·정서적 의존이 최약점 영역
왜 중요한가?
아동·청소년이 사용하는 AI 컴패니언의 위험이 단발성 테스트로는 드러나지 않음을 12,960 person-day 시뮬레이션으로 정량 입증해, 장기 안전성 평가 방법론의 필요성을 부각한다.
언급 프로젝트
본문 미리보기
arXiv:2606.25396v1 Announce Type: new Abstract: AI companions powered by large language models increasingly interact with cognition-developing users, including children and adolescents, creating risks that may accumulate over time. Existing safety evaluations largely rely on single-turn or short-session tests, which cannot capture risks that emerge only through prolonged interaction. To address this gap, we propose TSJ (Theater-Stage-Judge), a longitudinal framework combining persona-driven use
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 13:08AI 초안

