아이티센그룹이 생성형 AI를 겨냥한 프롬프트 인젝션과 민감정보 유출을 차단하는 AI 가드레일 솔루션 '에이전트고 가드'를 정식 출시했다. 금칙어·정규식 필터링, 자연어 기반 문맥 분석, LLM 기반 가드레일을 단계적으로 적용해 단발성 공격뿐 아니라 대화를 반복하며 보안 정책을 무력화하는 '에코 챔버' 공격과 탈옥 시도도 세션 단위로 분석한다. 정보유출방지(DLP) 기능은 이름·주소·주민등록번호·계좌번호 등 민감정보를 탐지해 가리며, TTA 분류 체계와 미국 NIST, EU GDPR 기준을 반영했다. 아이티센글로벌 AI이노베이션센터장은 프롬프트 인젝션·기밀 유출·환각으로 인한 거짓 정보 통제를 위한 솔루션이라고 설명했다. 기업의 AI 업무 적용 확대에 따른 보안 리스크 관리 수요를 겨냥한 제품이다.
- •아이티센그룹, AI 가드레일 솔루션 '에이전트고 가드' 정식 출시
- •금칩어·정규식 필터링·문맥 분석·LLM 기반 가드레일을 단계적으로 적용
- •대화를 반복하며 보안을 무력화하는 '에코 채머' 공격과 탈옥 시도를 세션 단위로 분석
- •DLP 기능으로 이름·주소·주민등록번호·계좌번호 등 민감정보 탐지·마스킹
- •TTA·미국 NIST·EU GDPR 기준을 반영해 글로벌 규제 대응력 확보
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
아이티센, 프롬프트 공격 막는 '에이전트고 가드' 출시
본문 미리보기
아이티센그룹이 생성형 인공지능(AI)을 겨냥한 프롬프트 인젝션과 민감정보 유출, 반복적인 우회 공격을 차단하는 보안 솔루션을 내놨다. 아이티센그룹은 1일 AI 가드레일 솔루션 '에이전트고 가드'를 정식 출시했다고 밝혔다. 아이티센그룹은 지배회사인 아이티센글로벌을 중심으로 공공·금융·민간 분야에서 정보기술(IT) 서비스와 클라우드, 솔루션 사업을 하고 있다.에이전트고 가드는 금칙어·정규식 필터링과 자연어 기반 문맥 분석, 대규모언어모델(LLM) 기반 가드레일을 단계적으로 적용한다. 한 차례 입력된 공격성 문구뿐 아니라 이용자가 대화를
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 10:33AI 초안
