에이전틱 AI로의 전환 속에서 IT 리더가 믿고 투자할 수 있는 AI 아키텍처의 4대 기반 요소를 제시한 기사다(Elastic 협찬, MIT Technology Review Insights 제작). 핵심은 대규모 AI용 데이터 준비, 쿼리마다 최적 정보를 공급하는 컨텍스트 엔지니어링, 초기부터 내재화하는 거버넌스와 LLM 관측성(observability), 그리고 휴먼 인 더 루프다. Gartner는 AI-ready 데이터 없이는 2026년까지 AI 프로젝트의 60%가 폐기될 것으로 전망했고, Elastic 조사에서는 IT 의사결정자의 85%가 사내 생성형 AI 앱에 LLM 관측성 도입을 예상했다. 기술이 빠르게 바뀌어도 데이터 품질·거버넌스·인재라는 기반 투자는 유효하다는 것이 요지다.

• •AI 신뢰성은 데이터 품질에서 출발: 정확성·거버넌스·실시간 접근성을 갖춘 데이터 아키텍처가 선결 과제
• •컨텍스트 엔지니어링: 프롬프트 문구가 아니라 RAG·벡터 DB 등 모델 주변 정보 환경 전체를 설계
• •거버넌스와 LLM 관측성은 나중에 덮는 레이어가 아니라 처음부터 아키텍처에 내재화해야 비용·보안 통제 가능
• •Gartner: AI-ready 데이터 미비 시 2026년까지 AI 프로젝트 60% 폐기 전망; Deloitte: 기업 70%가 생성형 AI 대응 인력 확충 계획