연구자 피터 데이비드 페이건이 발표한 논문은 라이프니츠의 '풍차', 튜링의 '모방 게임', 설의 '중국어 방' 등 고전적 사고실험을 '보존-합치 인코딩(CCE)' 프레임워크로 재해석해 AI 안전을 위한 의식 측정 방법을 제안한다. 연구는 과제 수행 성과를 나타내는 지표와, 내부 구조가 그 행동을 얼마나 효율적으로 뒷받침하는지를 나타내는 '조작적 의식' 지표를 구분한다. 압축되지 않은 방대한 룩업 시스템과 압축된 생성형 시스템이 겉보기 행동 성과는 비슷해도 후자의 지표에서는 크게 갈릴 수 있음을 이론적으로 보인다. 논문은 겉으로 드러나는 성능과 이를 뒷받침하는 내부 조직을 분리함으로써 '이해'를 둘러싼 고전적 논쟁을 재구성하고, 이 구분이 향후 AI 안전성 분석에 중요할 수 있다고 주장한다.
- •라이프니츠 풍차·튜링 모방 게임·설의 중국어 방을 '보존-합치 인코딩(CCE)' 틀로 재해석
- •행동 성과 지표와 내부 구조 효율성을 나타내는 '조작적 의식' 지표를 구분 제시
- •룩업 시스템과 생성형 시스템이 성과는 비슷해도 내부 구조 효율성에서는 크게 다를 수 있음을 이론화
- •격보기 성능과 내부 조직의 분리가 향후 AI 안전성 분석에 기여할 수 있다고 주장
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
Revisiting Classic Thought Experiments to Measure Consciousness for Artificial Intelligence Safety
본문 미리보기
arXiv:2608.00001v1 Announce Type: new Abstract: This research note revisits Leibniz's mill, Turing's imitation game, and Searle's Chinese Room through the Conservation-Congruent Encoding (CCE) framework. It formalises a toy symbolic setting in which successful behaviour is measured by task performance ($W_{causal,T}$), while the efficiency with which preserved internal structure supports that behaviour is measured by operational consciousness ($\kappa_T$). Within this setup, an uncompressed loo
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 10:11AI 초안
