이 논문은 'AGI가 이미 도래했다'와 '수십 년 더 걸린다'는 상반된 주장이 같은 증거에서 나오는 이유를 'AGI' 정의의 불명확성에서 찾고, 이를 설계·거버넌스 문제로 다룬다. 디자인 사이언스 방법론에 따라, 정의의 판정 적합성을 따지는 5개 순위 기준과 저자성·이해관계·인증·외부검증·개정권한을 점검하는 거버넌스 감사를 결합한 개념적 산물 DAF-AGI를 개발했다. 이를 5개 주요 측정 계열과 1개 디플레이션적 입장에 적용한 결과, '현 생성형 시스템이 인간을 능가하므로 AGI'라는 강한 주장은 오직 성능 기반 정의에서만 인증됐고 능력·심리측정·기술습득 접근에서는 인증되지 않았다. 저자들은 수입된 기술 범주를 공적 책임 아래 재정의할 제도적 역량인 '정의 주권'을 알고리즘 주권의 핵심 요소로 제안한다.
- •'AGI' 정의의 불명확성을 실증 문제가 아닌 설계·거버넌스 문제로 재구성
- •5개 순위 기준과 거버넌스 감사를 결합한 개념적 산물 DAF-AGI 제안
- •'현 생성형 AI=AGI' 강한 주장은 성능 기반 정의에서만 인증되고 다른 접근에선 불인증
- •경제적 계열은 판정 불가, 디플레이션적 입장은 이진 판정 거부
- •공적 책임 아래 기술 범주를 재정의하는 '정의 주권'을 알고리즘 주권의 요소로 제시
Definitional alignment before capability alignment: a Design-Science framework for adjudicating claims about AGI
- 1.AGI 정의의 미명세 문제를 설계과학으로 다룬 개념 산물 DAF-AGI 제안
- 2.정의의 판정 적합성을 평가하는 5개 순서형 기준 제시
- 3.AGI 도래 주장은 성능 기반 조작화에서만 인증됨을 확인
- 4.정의 주권을 알고리즘 주권의 구성요소로 제안
왜 중요한가?
AGI라는 용어의 불안정한 지시 대상을 거버넌스·설계 문제로 재정의해, 같은 시스템에 상반된 판정이 나오는 혼란을 정의 단위로 감사할 수 있는 틀과 외부 검증·개정 절차를 제시한다.
🏷️ 언급 프로젝트
인공일반지능(AGI)의 도래 시점에 대한 엇갈린 주장들이 난무하는 국내외 상황에서, AGI에 대한 통일된 정의가 부족하다는 점은 중요한 문제입니다. 이 논문은 역량 정렬 이전에 정의적 정렬의 필요성을 강조하는 설계 과학 프레임워크를 제시하며, 국내 AI 정책 수립자 및 연구자들이 AGI 논의에 명확성을 더하는 데 기여할 것입니다.
본문 미리보기
arXiv:2606.12713v1 Announce Type: new Abstract: Claims that artificial general intelligence has already arrived and claims that it remains decades away are often defended from overlapping evidence. "AGI" lacks a single shared and stable referent and competing operationalizations can return different verdicts on the same system. This article treats that under-specification as a design and governance problem. Following Design Science Research Methodology, it develops DAF-AGI, a second-order conce
전체 내용이 궁금하다면?
원문을 직접 읽어보세요