연구진은 모듈이 읽을 수 있는 정보를 제한하면 시스템이 학습하는 계산 방식이 개선되는지 검증하기 위해, 동결된 언어모델을 백본으로 공유하는 4개 셀 시스템 60개를 대상으로 사전등록 확증 실험을 수행했다. 증거 마스킹, 소유권 표시, 외부 증거를 중립 필러로 치환하는 등 다섯 조건을 여섯 개 초기화 클러스터와 두 가지 데이터 순서로 조합해 새 과제 환경에서 테스트한 결과, 마커가 양쪽 조건 모두에 제공됐을 때 증거 마스킹이 미학습 2~3단계 조합 문제의 정확도를 중앙값 기준 각각 0.846, 0.859만큼 끌어올렸고 12개 쌍 모두 기준을 통과했다. 다만 전역적으로 정보를 볼 수 있는 시스템 중에는 '마커 추종' 검증을 통과한 경우가 없어 역할 정보의 실제 효과는 여전히 불확실하며, 필러 조건에서는 7개 시스템이 완전 일반화에 성공했지만 그 분해 기준은 결론을 내리기 어려웠다. 이는 정보 제한(마스킹)이 구성적 일반화에 큰 이점을 준다는 것을 확증하면서도, 그 세부 메커니즘과 일반화 가능성은 아직 열린 질문으로 남겨둔다.
- •60개 사회(4-cell 시스템)를 대상으로 한 사전등록 확증 실험으로 증거 마스킹의 효과를 검증
- •마스킹이 미학습 2~3단계 조합 문제 정확도를 중앙값 0.846~0.859 향상시키며 사전등록 기준 전원 통과
- •전역 가시성을 가진 시스템은 '마커 추종' 검증을 하나도 통과하지 못해 역할 정보의 실제 기여는 불확실
- •필러(중립 대체) 조건에서 7개 시스템이 완전 일반화를 달성했으나 원인 분해는 결론 미확정
- •프로토콜·결과·체크포인트를 공개해 재현 가능성 확보
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
What You Can't See Is Still What You Learn: A Preregistered Sixty-Society Confirmation That Evidence Masking Drives Compositional Generalization
- 1.냉동 언어모델을 공유하는 4셀 시스템 60개로 증거 마스킹이 구성적 일반화를 돕는지 사전등록 검증
- 2.마스킹 조건은 held-out 2~3연산 조합 정확도를 중앙값 0.846·0.859만큼 끌어올려 기준 통과
- 3.마커 없는 복제 실험도 통과했지만, 전역적으로 마커를 보는 시스템은 마커 추종 검사를 통과 못함
- 4.필러(대체) 조건에서도 완전 일반화 시스템 7개 등장, 다만 분해 기준은 결론 어려움
왜 중요한가?
모듈이 읽을 수 있는 정보를 의도적으로 제한하는 것이 오히려 학습·일반화 능력을 높일 수 있음을 대규모 사전등록 실험으로 확인해, 모듈형 AI 시스템 설계에서 정보 제한이 유효한 원칙이 될 수 있음을 시사한다.
본문 미리보기
arXiv:2609.17637v1 Announce Type: new Abstract: Restricting what a module can read may improve what a system learns to compute. We test this in a preregistered confirmation with sixty four-cell systems sharing a frozen language-model backbone and communicating through learned continuous packets. Five conditions vary evidence masking, ownership markers, and replacement of foreign evidence with neutral filler, across six initialization clusters, each with two data orders, on one fresh task world.
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 10:40AI 초안

![[10월12일] AI가 암을 치료해도 원리를 알아야 할까…수학자 타오의 질문에 쏟아진 반론](https://cdn.aitimes.com/news/photo/202610/216150_220160_1157.jpg)

