국내 AI 신뢰성 평가 기업 셀렉트스타가 코스닥 상장에 도전하며 빅테크도 다루기 어려운 국가·산업·기업별 '로컬 리스크' 해결을 핵심 경쟁력으로 내세웠다. 김민우 세이프티팀 리드는 위험한 답변을 안전하다고 오판하는 거짓음성과 안전한 답변을 과잉 차단하는 거짓양성의 균형을 맞추는 것이 기술의 핵심이라고 설명했다. 자체 플랫폼 '다투모'는 벤치마크·레드티밍·가드레일·이밸류에이터 4단계 루프로 신뢰성을 고도화하며, 자체 레드티밍 모델은 내부 테스트에서 GPT-5.6, 클로드, 제미나이 등 최신 플래그십 모델보다 약 2배 높은 공격성공률을 기록했다. 셀렉트스타는 TTA·KISA·NIA의 AI 신뢰성 가이드라인 자문과 과기정통부 에이전틱 AI 얼라이언스에 참여하며, 향후 평가 범위를 에이전트·피지컬 AI 영역으로 확대할 계획이다.
- •셀렉트스타, 국내 최초 AI 신뢰성 평가 기술 앞세워 코스닥 상장 도전
- •다투모 플랫폼, 벤치마크·레드티밍·가드레일·이밸류에이터 4단계 루프로 신뢰성 고도화
- •자체 레드티밍 모델, 내부 테스트에서 GPT-5.6·클로드·제미나이 대비 약 2배 높은 공격성공률(ASR) 기록
- •ICML·ACL 등 논문 19건, 특허 49건 등록, 금융보안원과 26종 금융특화 리스크 세분화
- •향후 에이전트 간 소통, MCP 권한 문제 등 에이전트·피지컴 AI 영역으로 평가 범위 확대 계획
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
셀렉트스타 "AI 안전성, 빅테크도 못 다루는 로컬 리스크 해결이 핵심"
- 1.셀렉트스타, AI 신뢰성 평가 플랫폼 '다투모'로 국내 최초 AI 신뢰성 기술 앞세워 코스닥 상장 도전
- 2.벤치마크·레드티밍·가드레일·이밸류에이터 4단계 루프로 국가·기업별 로컬 리스크(환각·편향·컴플라이언스) 정밀 검증
- 3.자체 레드티밍 모델, GPT-5.6·클로드 소네트·오퍼스·제미나이 대비 약 2배 높은 공격성공률(ASR) 기록
- 4.ICML·ACL 논문 19건, 특허 49건 보유, 금융보안원과 26종 금융특화 리스크 표준화, 향후 에이전트·피지컬 AI로 평가 확장 계획
왜 중요한가?
빅테크조차 다루기 어려운 국가·기업별 로컬 리스크를 정량 평가하는 기술이라는 점에서, AI 도입 기업들이 실서비스 적용 전 안전성 검증 단계에서 활용할 수 있는 국내 대안으로 주목된다.
국내 스타트업 셀렉트스타가 강조하는 AI 신뢰성 평가는 상향 평준화된 AI 모델 시대에 한국적 맥락의 위험 요소를 해결하는 데 중요한 시사점을 줍니다. 국가, 산업별 특성에 맞는 환각 및 편향성 필터링 기술은 국내 AI 서비스의 품질과 안전성을 높이는 데 필수적이며, 코스닥 상장을 추진하는 이 기업의 행보는 국내 AI 안전성 기술의 위상을 보여줍니다. 국내 AI 규제 환경에서도 이러한 로컬 리스크 해결 능력이 핵심 평가 기준이 될 가능성이 높습니다.
본문 미리보기
AI 모델의 성능이 상향 평준화되는 가운데, 정성적인 영역인 'AI 신뢰성'을 정량화해 위험한 답변을 걸러내는 기술이 안전한 AI 확산의 핵심 과제로 떠올랐다.국내 최초로 AI 신뢰성 평가 기술을 앞세워 코스닥 상장에 도전하는 셀렉트스타의 김민우 세이프티팀 리드는 "이제 AI 모델의 성능은 이미 상향 평준화됐다"라며 "이제 핵심은 그럴듯한 답변 속에서 국가·산업·기업별 환각과 사실성 오류, 혐오·편향적인 답변을 정밀하게 걸러내 서비스 품질과 안전성을 유지하는 것"이라고 강조했다.특히 "위험한 답변을 안전하다고 착각하는 거짓 음성(f
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 11:24AI 초안
