"AI를 통제하라"…국내 솔루션 기업, AI 가드레일 시장 잰걸음↗ (원문, 새 창)

생성 AI와 AI 에이전트의 입력·출력·행동을 기업 정책 범위 안에서 통제하는 'AI 가드레일' 시장을 겨냥해 국내 솔루션 기업들이 잇따라 제품을 출시하고 있다. 코스닥 상장을 앞둔 제논은 자사 플랫폼에 탑재했던 가드레일을 독립 솔루션 '젠가드'로 분리해 모델 재학습 없이 자연어로 정책을 설정할 수 있게 했다. 에임인텔리전스는 실시간 가드레일 '스타포트'와 레드팀 솔루션 '스팅어'를 함께 운용하고, 라온시큐어는 '원쉴드'로 프롬프트 인젝션·탈옥 공격을 탐지·차단하며 개인정보를 자동 마스킹한다. AI 에이전트 확산으로 통제 대상이 텍스트에서 '행동'으로 넓어지면서 보안이 AI 서비스의 신뢰성과 경쟁력을 가르는 핵심 요소로 떠오르고 있다.

• AI 가드레일, 텍스트 통제에서 에이전트의 '행동' 통제로 범위 확대
• 제논, 가드레일 기능을 독립 솔루션 '젠가드'로 분리 출시, 자연어 정책 설정 지원
• 에임인텔리전스, 실시간 가드레일 '스타포트'와 레드팀 솔루션 '스팅어' 병행
• 라온시큐어 '원쉴드', 프롬프트 인젝션·탈옥 공격 탐지와 개인정보 자동 마스킹 지원
• 셀렉트스타는 AI 신뢰성 평가와 자동 레드티밍, sLM 기반 가드레일 기술 개발