AI 생성 성적 콘텐츠(AIG-SC) 제작이 늘면서 이를 지원하는 온라인 커뮤니티가 등장했다. 연구진은 아동 성착취물 등 학대성 콘텐츠 금지 규정을 명시한 대형(1만명 이상) AIG-SC 커뮤니티의 회원·운영자 24명을 심층 인터뷰해 커뮤니티 형성 배경, 암묵적 규범, 명시적 규칙과 그 운영 방식, 그리고 커뮤니티 가치와 모더레이션 사이의 긴장을 분석했다. 많은 창작자와 커뮤니티가 학대에 반대하는 개인적 기준을 갖고 있음에도, 어떤 형태의 AI 성적 콘텐츠든 제작할 수 있는 조언과 자료는 의도와 무관하게 누구나 접근 가능했다. 검열 반대와 비판 지양을 중시하는 규범 때문에 운영자들은 법과 서비스 약관의 한계 안에서만 대응을 정당화해야 하는 어려움에 처했다. 연구는 기술적·커뮤니티적·법적 거버넌스를 결합해야 학대성 콘텐츠 생산을 효과적으로 줄일 수 있다고 제언한다.
- •1만명 이상 AIG-SC 커뮤니티 회원·운영자 24명을 심층 인터뷰해 거버넌스 실태를 분석.
- •학대 반대 규칙이 명시되어도 제작 조언·자료는 의도와 무관하게 누구나 접근 가능.
- •검열 반대·비판단 지향 규범이 운영자의 대응을 법과 약관 한계 안으로만 정당화하게 만듦.
- •기술·커뮤니티·법적 거버넌스의 결합이 필요하다고 제안.
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
"I Thought You Were The Uncensored Place": Norms, Rules, and Moderation in AI-Generated Sexual Content Communities
- 1.AI생성 성적콘텐츠(AIG-SC) 커미니티 회원·운영진 24명 인터뷰로 거버넌스의 남용방지 효과 분석
- 2.대규모(1만명 이상) 커미니티의 형성 배경, 암묵적 규범, 명시적 규칙과 콘텐츠 검열 운영방식을 조사
- 3.남용 방지에 대한 개인적 경계는 있지만, 콘텐츠 제작 조언·자료는 의도와 무관하게 누구나 접근 가능함을 발견
- 4.반검열·비판단 규범이 운영진의 대응을 법과 서비스약관 한도로 제한시켜 남용 소지를 남긴다는 긴장관계 규명
왜 중요한가?
AI생성 성적콘텐츠 플랫폼의 자율 거버넌스가 실제로는 법적 최소기준에만 의존해 아동 관련 콘텐츠를 포함한 남용 콘텐츠 확산을 완전히 막지 못하는 구조적 한계를 실증해, 기술·커뮤니티·법적 거버넌스를 결합한 대응이 필요함을 제기한다.
본문 미리보기
arXiv:2608.13659v1 Announce Type: new Abstract: As AI-generated sexual content (AIG-SC) is increasingly produced, online communities have emerged to support creators' needs. To understand whether and how community governance attempts work to prevent abuse while supporting free expression, we interviewed 24 members and moderators of large AIG-SC online communities (10,000+ members) with stated rules against creating and sharing abusive content (e.g., AI-generated CSAM). Through in-depth intervie
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 11:23AI 초안
