텍스트-이미지(T2I) 생성 모델이 직업 묘사에서 인구통계학적 편향을 재현하는 문제를 해결하기 위해, 본 연구는 모델 재훈련 없이 추론 시점에 프롬프트 수준에서 편향을 완화하는 경량 프레임워크를 제안합니다. 이 방법은 사용자가 다양한 공정성 목표를 직접 선택하고, 그에 맞춰 인구통계학적으로 구체적인 프롬프트를 구성하여 생성되는 피부색 분포를 목표와 일치시킵니다. 이를 통해 생성 AI 사용자가 편향 완화 과정을 투명하고 제어 가능하며 쉽게 사용할 수 있도록 돕습니다.
- •텍스트-이미지(T2I) 모델은 직업 묘사에서 고위직에 밝은 피부톤, 저위직에 다양한 피부톤을 생성하는 등 인구통계학적 편향을 재현한다.
- •기존의 편향 완화 방법은 모델 재훈련이나 특정 데이터셋 필요하여 대부분의 사용자에게 접근성이 낮다.
- •제안된 경량 프레임워크는 모델 수정 없이 추론 시점에 프롬프트 개입을 통해 작동하며, 사용자가 직접 다양한 공정성 목표를 정의하고 그에 맞춰 프롬프트를 구성하여 편향된 결과물을 완화한다.
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
Who Defines Fairness? Target-Based Prompting for Demographic Representation in Generative Models
- 1.생성 AI의 편향 문제
- 2.사회적 편견 복제
- 3.공정성 정의 및 개선
왜 중요한가?
이 연구는 텍스트-이미지 모델의 고질적인 사회적 편견 문제를 해결하여, AI가 더욱 공정하고 포괄적인 결과물을 생성하도록 돕는 중요한 토대가 됩니다.
언급 프로젝트
이 연구는 국내 네이버 CLOVA, 카카오 Karlo 등 텍스트-이미지 생성 AI 개발사들이 모델 재훈련 없이 프롬프트로 인구통계학적 편향을 효과적으로 줄일 방안을 제시합니다. 이는 과기정통부 AI 윤리 가이드라인 준수 및 한국 기업들의 공정하고 포괄적인 AI 서비스 제공을 통한 사회적 신뢰 확보에 기여할 것입니다.
본문 미리보기
arXiv:2604.21036v1 Announce Type: new Abstract: Text-to-image(T2I) models like Stable Diffusion and DALL-E have made generative AI widely accessible, yet recent studies reveal that these systems often replicate societal biases, particularly in how they depict demographic groups across professions. Prompts such as 'doctor' or 'CEO' frequently yield lighter-skinned outputs, while lower-status roles like 'janitor' show more diversity, reinforcing stereotypes. Existing mitigation methods typically
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 13:29AI 초안
