AI 인프라 스타트업 INT21의 창업자 빙 쉬가 자율 에이전트 스웜(swarm)으로 AI 인프라 소프트웨어를 스스로 개발·검증·최적화하는 '자기개선형 인프라' 전략을 설명했다. INT21의 '추론 엔진 팩토리'는 전문화된 에이전트들이 CUDA·PTX 커널부터 서빙 인프라까지 완전한 추론 엔진을 병렬로 탐색해 구축하며, 이전 프로젝트 'PTX 커널 팩토리'는 KDA(Kimi Linear Attention) 대비 최대 59% 성능 개선을 달성했다. 그는 엔비디아 재직 시절 연구를 통해 모델 자체가 아니라 모델을 둘러싼 '하니스(harness)'가 에이전트 성능을 좌우한다는 점을 확인했다고 밝혔으며, 다중 에이전트 오케스트레이션이 단일 거대 컨텍스트 에이전트보다 확장성이 높다고 강조했다.

• •INT21 창업자 빙 쉬, 자율 에이전트 스웈로 AI 인프라를 스스로 최적화하는 전략 소개
• •'추론 엔진 팩토리', 에이전트들이 CUDA·PTX 커널부터 서빙까지 완전한 추론 엔진 구축
• •'PTX 커널 팩토리', KDA(Kimi Linear Attention) 대비 최대 59% 성능 개선 달성
• •엔비디아 재직 시절 연구로 "모델 아닌 하니스가 에이전트 성능 좌우" 확인
• •다중 에이전트 오케스트레이션이 단일 거대 컨텍스트 에이전트보다 확장성 높다고 강조