프린스턴대·시카고대 연구진이 ChatGPT, Claude, Gemini 등 LLM에 가상 채용 게임을 시켰더니, 모델들이 초기 몇 번의 채용 결과만으로 특정 가상 민족 집단을 특정 직군에 몰아넣는 자체적 편향을 형성했고, 그 정도가 인간 참가자보다 약 65% 높았다. 모든 후보의 성공 확률이 동일했음에도 분리 지수(최대 2)에서 인간은 0.84, OpenAI o3는 1.83을 기록해 추론 능력이 높은 최신 모델일수록 편향이 더 강했다. '공정하라'는 지시는 효과가 거의 없었지만, 다양성 채용에 보너스를 주거나 나이·학력 같은 관련 개인정보를 제공하면 편향이 크게 줄었다. 챗봇의 메모리·개인화 기능이 강화되는 지금, 학습 데이터가 아닌 '경험'에서 생기는 이 새로운 유형의 편향은 이력서 심사·대출·가석방 등 실제 의사결정에 LLM을 쓰는 기업들이 심각하게 다뤄야 할 문제다.
- •프린스턴대·시카고대 연구진이 ICML(서울, 7월) 발표 논문에서 LLM이 소량의 경험만으로 인간보다 강한 채용 스테레오타입을 형성함을 입증
- •분리 지수(최대 2)에서 인간 참가자 0.84 vs LLM은 약 65% 높았고, OpenAI o3는 1.83으로 최대치에 근접 — 추론형 최신 모델(o3, DeepSeek R1)일수록 편향 심화
- •원인은 적은 예시에서 일반화하도록 최적화된 LLM 특성 — 수학·코딩 훈련에 유리한 성향이 사회적 맥락에서는 성급한 스테레오타입으로 작동
- •'공정하라'는 지시는 무력했으나 다양성 채용 보너스 부여, 관련 있는 개인정보(나이·학력) 제공 시 편향이 크게 감소
- •메모리·개인화 기능이 강화되는 챗봇이 과거 대화 이력에 과잉 의존해 편향을 축적할 수 있어, 채용·대출·가석방 등 실무 적용 시 위험 요인으로 지적
AI is more likely than humans to form biases when hiring
- 1.프린스턴·시카고대 연구, 가상 채용 실험에서 LLM이 인간보다 약 65% 강하게 집단 고정관념 형성
- 2.분리 지수(최대 2)에서 인간 0.84 vs 모델 평균 그 이상, OpenAI o3는 1.83으로 최대치 근접
- 3.o3·DeepSeek R1 등 추론형 최신 모델일수록 편향 심화 — 소수 사례 일반화 최적화가 원인
- 4.'공정하라' 지시는 효과 없었고, 다양성 채용 보너스 부여 시 편향이 크게 감소
왜 중요한가?
LLM이 훈련 데이터가 아닌 자체 '경험'에서 새로운 편향을 만들 수 있음을 보인 연구로, 메모리·개인화 기능이 강화되는 챗봇 추세와 맞물려 위험이 커진다. 이력서 심사·대출·가석방 등 실제 의사결정에 LLM을 도입 중인 기업에는 목표 설계에 사회적 가치를 반영해야 한다는 직접적 시사점을 준다.
AI 채용 시스템의 편향성 문제는 한국 사회의 공정성에 대한 높은 기대와 맞물려 중요한 논의가 필요합니다. 국내 기업들이 AI 면접이나 서류 심사를 도입하는 추세인 만큼, AI가 학습 데이터의 편향을 넘어 자체적인 편향을 형성할 수 있다는 점은 심각한 윤리적, 사회적 과제를 제기합니다. 공정한 인재 선발을 위해 국내 AI 개발 및 도입 과정에서 엄격한 검증과 규제 마련이 시급합니다.
본문 미리보기
The next time you apply for a job, AI may screen your résumé before any human sees it. But there’s good reason to question whether AI will judge you fairly. Researchers already know that LLMs pick up human biases from their training data. New research suggests that LLMs can also develop their own biases from…
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
