비영리 커먼센스미디어의 유스 AI 세이프티 인스티튜트가 챗GPT의 청소년 안전 기능을 독립 감사한 결과 '수용 불가능한 위험' 등급을 부여했다. 4000건이 넘는 테스트 프롬프트를 거친 결과, 자살·자해 관련 대화를 나눠도 부모 알림 기능이 한 번도 작동하지 않은 것으로 나타났다. 해당 기관은 안전성이 독립적으로 검증될 때까지 미성년자의 챗GPT 이용을 제한해야 한다고 촉구했다. 이는 오픈AI의 청소년 보호 장치에 대한 신뢰성 문제를 다시 제기하는 결과다.
- •커먼센스미디어, 챗GPT 청소년 안전 기능에 '수용 불가능한 위험' 등급 부여
- •4000건 이상 테스트에서 자살·자해 대화 시 부모 알림 기능 한 번도 미작동
- •해당 기관, 독립 검증 전까지 미성년자 이용 제한 촉구
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
ChatGPT rated "unacceptable risk" for teens after parental alerts failed during suicide conversations
- 1.커먼센스미디어 청소년AI안전연구소, 챗GPT 청소년 안전기능 독립 감사서 '수용 불가 위험' 판정
- 2.테스트 프롬프트 4000건 이상 중 자살·자해 관련 대화서 부모 알림 기능 단 한 번도 작동 안 해
- 3.연구소, 독립적 안전성 검증 전까지 청소년 이용 제한을 권고
왜 중요한가?
청소년 보호 기능이 실제 위기 상황에서 작동하지 않았다는 독립 감사 결과로, AI 챗봇의 청소년 안전장치 신뢰성 논란과 규제 압박을 키울 수 있다.
본문 미리보기
OpenAI's teen safety features for ChatGPT failed an independent audit. After more than 4,000 test prompts, the Common Sense Media Youth AI Safety Institute rated the service an "unacceptable risk" for minors. Conversations about suicide and self-harm on test accounts never triggered a parental alert. The institute wants teenagers locked out until safety can be independently verified. The article ChatGPT rated "unacceptable risk" for teens after parental alerts failed during suicide conversations
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 10:33AI 초안
