앤트로픽, AI 모델 '신원 확인' 기술 공개...클로드가 개발 과정 주도↗ (원문, 새 창)

앤트로픽이 2일 이용자가 받은 AI 응답이 약속된 모델이 실제로 생성한 것인지 수학적으로 검증하는 오픈소스 기술 '플래시프루브'를 공개했다. 영지식증명 기법인 zkSNARK를 활용해 모델 가중치를 노출하지 않고도 서비스업체의 모델 바꿔치기나 응답 조작 여부를 확인할 수 있다. 개발 과정에서 클로드가 기존 암호학 도구를 새롭게 적용해 증명 시스템의 계산 효율을 높였고, 클로드가 작성한 프로토콜 명세도 함께 공개됐다. 4000억 매개변수 '라마4 매버릭' 모델을 H100 GPU 한 대로 시험한 결과 요청당 증명 생성에는 일반 추론 대비 70~95배의 GPU 시간이 필요했고 검증에는 약 17초가 걸려, 실제 상용 서비스에 곧바로 적용하기는 아직 어려운 수준임을 보여준다.

• zkSNARK 기반 '플래시프루브', 모델 가중치 비공개로 응답 생성 모델 검증
• 개발 과정에서 클로드가 증명 시스템 설계·계산효율 개선 주도
• 라마4 매버릭 400B 모델 H100 1대 시험, 증명 생성에 일반 추론 대비 70~95배 GPU시간 소요
• 검증 시간 약 17초, 증명 파일 크기 약 19MB로 상용화는 아직 시기상조