유럽연합 AI법(AI Act)이 고위험·범용 AI 시스템에 광범위한 의무를 부과하면서도 핵심 기준인 '추론 능력(capability to infer)'을 명확히 정의하지 않아 생기는 회색지대를 분석한다. 특히 Annex III에 명시된 신용평가 시스템은 통계 모델로 구현되는 경우가 많아 AI법 정의에 해당하는지 불분명하다. 저자들은 통계적 학습이론에 기반해 추론 능력의 수준을 등급화하는 프레임워크를 제시하고, AI법과 집행위원회 지침에 비추어 어느 수준이 충분한 추론 능력에 해당하는지, 어디서 규제 명확화가 필요한지 분석한다. 두 개의 현실적 신용평가 워크플로 예시로 개별 모델뿐 아니라 데이터 처리 전체 과정을 따져야 하며, 개발 과정의 인간 전문가 개입이 추론 능력에 큰 영향을 미친다는 점을 보인다.
- •AI법이 핵심 기준인 '추론 능력'을 명확히 정의하지 않아 통계 기반 신용평가 시스템의 적용 여부가 불분명함을 지적
- •통계적 학습이론에 기반해 추론 능력 수준을 등급화하는 프레임워크 제시
- •두 개의 현실적 신용평가 워크플로로 추론이 어디서 발생하는지 분석
- •개별 모델이 아닌 데이터 처리 전체 과정을 고려해야 하며, 개발 중 인간 전문가 개입이 추론 능력에 영향
When Do Data-Driven Systems Exhibit the Capability to Infer?
- 1.EU AI법의 핵심 기준인 '추론 능력'이 모호해 신용평가 등 통계모델의 규제 적용 여부가 불분명함을 지적
- 2.통계학습 이론에 기반해 추론 능력의 수준을 등급화하는 프레임워크 제안
- 3.AI법·EU집행위 가이드라인 분석으로 '추론' 해당 수준과 추가 규제 명확화가 필요한 지점을 식별
- 4.신용평가 워크플로 사례로 모델 단위가 아닌 전체 처리 과정·인간 전문가 개입이 추론 능력에 영향함을 입증
왜 중요한가?
AI법이 고위험으로 분류한 신용평가가 실제로 'AI'에 해당하는지조차 불분명한 규제 회색지대를 다룬다. 추론 능력을 등급화하면 규제 대상 판정에 실무적 기준을 줄 수 있고, 개별 모델이 아닌 전체 워크플로와 인간 개입까지 고려해야 한다는 점은 컴플라이언스 설계에 직접적 시사점을 준다.
본문 미리보기
arXiv:2606.11769v1 Announce Type: new Abstract: The European AI Act is the first comprehensive regulation of artificial intelligence (AI), setting out extensive obligations, particularly for so-called high-risk and general-purpose AI systems. A key distinguishing feature of AI systems under the AI Act is the capability to infer. Since the AI Act does not clearly define what inference is, there is a gray area for certain data-driven systems. A specific example is credit scoring systems, which ar
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
