AIarXiv cs.CR (암호학·보안)AI 점수 90%
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
Omni-UBench: Benchmarking Omni-Modal LLM-based Guardrails Across Safety, Utility, and Reliability (원문, 새 창)
AI 인사이트
대상 독자:개발자
- 옴니모달 LLM 가드레일 평가 위한 최초 종합 벤치마크 Omni-UBench 공개
- 텍스트·이미지·오디오·비디오 등 35+ 소스서 18만3000여 샘플 수집, 통합 위험분류체계 라벨링
- 15개 OLLM·가드레일 평가서 범용모델도 별도 튜닝 없이 강한 콘텐츠관리력 보유 확인
- 기존 가드레일은 교차모달 은닉 악성의도·정교한 탈옥 식별에 취약, 안전성 환각도 확인
왜 중요한가
모달리티가 늘어날수록 안전 장치의 공격 표면도 커지는 상황에서, 안전성·유용성·신뢰성을 함께 측정하는 벤치마크를 제시해 옴니모달 AI 가드레일의 실제 취약점을 구체적으로 드러냈다.
언급 프로젝트
본문 미리보기
arXiv:2610.31713v1 Announce Type: new Abstract: Advances in Omni-modal Large Language Models (OLLMs) have enabled increasingly seamless human-AI interaction, but their unified processing of heterogeneous modalities also expands the attack surface, allowing adversaries to exploit richer input compositions to circumvent safety alignment. To counter such risks, omni-modal guardrails have been proposed to detect and filter unsafe queries across arbitrary modalities. However, their capabilities and
전체 내용이 궁금하다면?
arXiv cs.CR (암호학·보안)에서 원문을 직접 읽어보세요
공유
- #AI가드레일
- #멀티모달
- #안전성평가
- #벤치마크
이 글이 만들어진 과정
- 11:34AI 초안