다층 퍼셉트론(MLP)의 적대적 강건성 인증 문제를 격자(lattice) 순회 문제로 환원한 이론 연구다. 입력점을 포함하는 축 정렬 초직사각형 구간에서 예측이 변하지 않으면 'sound 인증', 구간을 벗어나면 반드시 예측이 변하면 'complete 인증'으로 정의하며, 후자는 기존 문헌에서 다뤄지지 않은 개념이다. 격자 순회 연산자와 refine & verify 반복 기법으로 형식 검증기를 이용한 sound 최대성·complete 최소성을 보장한다. 흥미로운 비대칭도 발견됐다. complete 인증의 최소해는 다항 횟수의 오라클 호출로 구해지지만 sound 인증에는 강한 계산 불가능성이 성립하며, ℓ∞ 구에서는 로그 알고리즘을 제시했다. ParallelepipedoNN 시스템으로 실증 평가까지 수행해 AI 안전의 형식 검증 도구를 확장했다.
- •적대적 강건성 인증을 격자 순회 문제로 환원하는 이론 프레임워크 제시
- •기존 sound 인증에 더해 미탐구 영역이던 complete 인증 개념을 최초 정의
- •complete 최소해는 다항 오라클 호출로 가능, sound 최적화는 강한 난해성 증명이라는 비대칭 발견
- •ℓ∞ 구에서 로그 알고리즘 제공, ParallelepipedoNN 시스템으로 실증 평가
Interval Certifications for Multilayered Perceptrons via Lattice Traversal
본문 미리보기
arXiv:2607.08773v1 Announce Type: new Abstract: In this work we present a rigorous theoretical framework to a foundational problem of AI safety, namely adversarial robustness. In particular, we show that the adversarial robustness problem can be reduced to a lattice traversal problem. Each element of this lattice corresponds to an interval, i.e., an axis-aligned hyper-rectangle, containing an input point $\mathbf{x}$. Consider a multilayered perceptron classifier (MLP). An interval $I$ constitu
전체 내용이 궁금하다면?
원문을 직접 읽어보세요