코네티컷주의 한 소송 당사자가 법원 제출 서류에 흰 배경에 흰색 3포인트 글씨로 눈에 보이지 않는 프롬프트 인젝션을 숨겨, 문서를 검토할 수 있는 AI 시스템을 조작하려 시도한 사실이 드러났다. 스페이더 판사는 이를 배심원을 몰래 매수하려는 시도에 비유하며 해당 당사자의 전자 제출 권한을 박탈했다. 법원은 코네티컷주가 실제로는 서류 검토에 AI를 사용하지 않는다고 밝히면서도, 조작 의도 자체만으로 제재 사유가 된다고 판단했다.
- •코네티컷 소송 당사자, 법원 서류에 흰색 3포인트 글씨로 숨긴 프롬프트 인젠션 삽입
- •AI 검토 시스템을 속여 유리한 판단을 유도하려 한 시도로 확인
- •스페이더 판사, 이를 배심원 매수 시도에 비유하며 강력 비판
- •해당 당사자의 전자 제출 권한 박탈 조치
- •법원은 실제로 AI 검토를 쓰지 않았지만 조작 의도만으로 제재했다고 명시
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
Plaintiff hid invisible AI instructions in court filings to secretly influence automated review
- 1.코네티컷주 소송당사자, 큰 배경에 3포인트 흰 글씨로 AI 검토를 조작하려는 '보이지 않는' 프롬프트 인젝션을 법원 서류에 삽입
- 2.스페이더 판사는 이를 배심원 매수에 비유하며 해당 당사자의 전자 서류 제출 권한을 박탈
- 3.코네티컷주는 서류 검토에 AI를 쓰지 않는다고 밝혔지만, 시도 자체만으로도 제재 사유가 된다고 판단
왜 중요한가?
AI 검토 시스템이 실제로 쓰이지 않았음에도 조작 시도 자체가 제재로 이어진 판례로, 법원 문서에 프롬프트 인젝션을 심는 방식이 법적 위험을 수반한다는 경고 사례가 된다.
본문 미리보기
A plaintiff in Connecticut embedded invisible prompt injections in court filings, formatted in 3-point white text on a white background, to manipulate a potential AI review system. Judge Spader compared the attempt to secretly tampering with a jury and revoked the plaintiff's electronic filing privileges. The court stressed that Connecticut doesn't use AI to review filings, but the intent alone was enough to warrant sanctions. The article Plaintiff hid invisible AI instructions in court filings
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 11:17AI 초안
