대부분 AI 제품이 실패하는 이유는 모델이 아니라 시스템 설계 부재다. 저자는 프로덕션 AI가 필요로 하는 5계층 AI System Design Stack을 제시한다: (1) Data Layer — 수집·검증·정규화, (2) State Layer — '지금 참인 상태'를 별도 미러 DB로 유지, (3) Context Layer — 시간·관계·변경 이력 구조화 컨텍스트, (4) Decision Layer — 규칙/ML/LLM 중 적절한 도구 매핑, (5) Action Layer — 실제 세상에 영향을 주는 멱등 동작. 이벤트 드리븐 vs 요청 드리븐, 웹훅 vs 폴링, 멱등성, 지연 vs 신선도 같은 인프라 개념을 엔터프라이즈 AI 도입의 병목으로 지목하며, 모델 대신 시스템을 설계하는 팀이 다음 3년을 이긴다고 주장한다.

• •AI 제품 실패의 원인은 모델이 아니라 5계층 시스템 설계 부재 — LLM 래퍼는 프로덕션에서 무너진다.
• •5계층 스택: Data → State → Context → Decision → Action. 대부분 팀이 중간 3계층을 생략한다.
• •State Layer(미러 DB)와 Context Layer(시간·관계·변경 구조화)가 가장 빈번하게 누락되는 핵심 인프라.
• •Decision Layer는 규칙/ML/LLM에 결정을 매핑해야 하며, 모든 결정을 LLM에 보내면 비용·신뢰성·감사성 모두 손해.
• •이벤트 드리븐·웹훅·멱등성·신선도 vs 지연 개념을 설계하지 않으면 엔터프라이즈 AI 판매에서 밀린다.