테크 매체 404미디어에 따르면 오픈AI는 수백 명의 계약직 인력을 고용해 실제 챗GPT 대화 내용을 검토하고 1~7점 척도로 평가하게 하고 있다. 이는 아첨성 답변과 지나치게 인간적인 행동 양상을 줄이기 위한 목적이 일부 포함된 것으로 알려졌다. 검토 대상 프롬프트는 익명 처리되지만 민감한 정보가 남아 있을 수 있으며, 사용자가 사람의 검토를 원하지 않으려면 기본적으로 켜져 있는 '모두를 위한 모델 개선' 설정을 직접 꺼야 한다.
- •오픈AI, 수백 명의 계약직이 실제 챗GPT 대화를 1~7점 척도로 평가하는 것으로 404미디어 보도
- •평가 목적 중 하나는 아첨성 답변과 과도하게 인간적인 모델 행동을 줄이는 것
- •검토용 프롬프트는 익명화되지만 민감한 정보가 포함될 가능성 존재
- •사용자는 기본적으로 켜져 있는 '모두를 위한 모델 개선' 설정을 직접 꺼야 검토 대상에서 제외
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
OpenAI has hundreds of contract workers reading your ChatGPT conversations
- 1.오픈AI, 수백 명의 계약직 검수자가 실제 챗GPT 대화 열람·1~7점 평가
- 2.검수자는 과도한 아첨·인간처럼 구는 답변 줄이는 데 활용, 크로싱허들·머서 통해 고용
- 3.'모두를 위해 모델 개선' 설정 기본 켜짐, 끄지 않으면 사람이 대화 열람 가능
- 4.앤트로픽·구글도 유사한 인간 검수 방식 운영 중이라고 확인
왜 중요한가?
이용자 대부분이 사람이 자신의 대화를 읽는다는 사실을 모른 채 기본값으로 데이터가 수집되고 있다는 점에서, AI 서비스의 개인정보 고지 방식과 옵트아웃 설계의 투명성 문제를 제기한다.
본문 미리보기
OpenAI has hundreds of contract workers reading real ChatGPT conversations and rating them on a scale of one to seven, partly to reduce flattery and human-like behavior, 404 Media reports. The prompts are anonymized but can still contain sensitive data. Users who don't want their chats reviewed by humans have to actively disable the "Improve the model for everyone" setting, which is on by default. The article OpenAI has hundreds of contract workers reading your ChatGPT conversations appeared fir
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 10:33AI 초안
![[10월12일] AI가 암을 치료해도 원리를 알아야 할까…수학자 타오의 질문에 쏟아진 반론](https://cdn.aitimes.com/news/photo/202610/216150_220160_1157.jpg)
