0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
DICE: Tilting the Odds through Interface Attackson System One Model
- 1.'System One' 판단 모델을 감싸는 인터페이스(상태추출·질문생성·출력해석)를 공격해 결정을 왜곡하는 'DICE' 연구
- 2.Jev 기반 파이프라인에서 모델 자체와 API 응답은 공격자 통제 밖에 두고, 주변 어댑터만 조작
- 3.소규모 합성 실험에서 각 어댑터가 출처 신뢰성·답변 의미·응답 관련성 중 하나를 깨뜨릴 수 있음을 입증
- 4.관계를 고정하는 체크로 공격은 막혔으나, 일부 정상적인 깨끗한 결정까지 거부되는 부작용도 확인
왜 중요한가?
모델 자체가 아니라 모델을 감싸는 애플리케이션 어댑터 계층이 판단 결과를 왜곡할 수 있음을 보여, AI 판단 시스템의 보안 점검 범위를 모델 바깥 파이프라인까지 넓혀야 함을 시사한다.
언급 프로젝트
본문 미리보기
arXiv:2610.14404v1 Announce Type: new Abstract: System One models offer typed judgments that applications can turn into decisions. Their answers, however, are conditional on the state and question supplied by surrounding components, and on how the application uses the response. We study this boundary in a Jev-based pipeline with bounded substitutions at three adapter outputs: state extraction, question generation, and output interpretation. Across three small synthetic studies, each adapter can
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 11:24AI 초안
![[AI리더의 서가] 바이브 코딩 프로덕션의 원칙](https://cdn.aitimes.com/news/photo/202610/216145_220153_386.jpg)


