NoT(Narration-of-Thought)는 도덕적 딜레마에서 표준 사고사슬(CoT)이 보이는 두 가지 실패, 즉 이해당사자 축소(한 명만 언급)와 불확실성 억제(단서 없이 단정)를 고치는 시스템 프롬프트다. 추론을 주인공, 이해당사자, 2단계 결과, 불확실성, 결정의 5개 섹션으로 구조화할 뿐 학습이나 파인튜닝은 필요 없다. 3개 벤더 4개 모델로 DailyDilemmas 100개 시나리오를 평가한 결과 이해당사자 축소는 최대 31%에서 1% 미만으로, 불확실성 억제는 최대 72%에서 1~24%로 줄었고, 동일 토큰 예산의 장황한 CoT 대조군으로 토큰량 효과를 배제했다. 5라운드 다자 토론 프로토콜로 확장하면 6%였던 교착이 95% 완전 합의로 전환됐다. 결정 근거가 외부화된 감사 가능한 추론 흔적을 남겨 에이전트의 신뢰성 있는 배치에 기여한다.
- •주인공·이해당사자·2단계 결과·불확실성·결정의 5섹션 구조화 프롬프트, 추가 학습 불필요
- •이해당사자 축소 31%→1% 미만, 불확실성 억제 72%→1~24%로 감소
- •동일 토큰 예산 대조군으로 효과가 토큰량 때문이 아님을 입증, Cliff's delta 최대 +0.93
- •5라운드 다자 토론에서 6% 교착을 95% 완전 합의로 전환
- •교차 벤더(cross-family) 학습 판정자가 동일 벤더 판정자를 모든 축에서 앞섬
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
Narration-of-Thought: Inference-Time Scaffolding for Defeasible Ethical Reasoning in Large Language Models
- 1.도덕 딜레마 추론의 두 실패(이해관계자 붕괴·불확실성 억제)을 교정하는 NoT 프롬프트 제안
- 2.주인공·이해관계자·2단계 결과·불확실성·결정 5단계로 사고연쇄를 구조화, 학습 불필요
- 3.100개 시나리오서 이해관계자 붕괴 31%→1% 미만, 불확실성 억제 72%→1~24%로 감소
- 4.5라운드 토론 확장 시 6% 교착을 95~100% 완전 합의로 전환
왜 중요한가?
추가 학습 없이 시스템 프롬프트만으로 LLM의 윤리적 추론을 감사 가능하게 외부화해, 신뢰성 있는 에이전트 배치를 위한 저비용 정렬·검증 기법으로 활용될 수 있음을 보였다.
언급 프로젝트
본문 미리보기
arXiv:2606.26366v1 Announce Type: new Abstract: Standard chain-of-thought on moral dilemmas exhibits two failure modes: stakeholder collapse (the trace names at most one party with a stake in the outcome) and uncertainty suppression (no explicit unknowns or hedges before committing to an action). We introduce narration-of-thought (NoT), a system prompt that structures chain-of-thought into five sections: protagonist, stakeholders, two-step consequences, uncertainty, then commitment. NoT adds no
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 13:08AI 초안

