오픈AI, 청소년 챗GPT 무기 정보 제한...폭력 징후 땐 대화 중단↗ (원문, 새 창)

오픈AI가 청소년의 폭력 행위를 예방하기 위해 챗GPT에서 무기·보안 시스템 관련 실용 정보 제공을 제한하는 새 정책을 발표했다. 폭력 의도가 드러나지 않아도 악용 가능한 구체적 정보는 청소년에게 제공하지 않으며, 폭력에 대한 집착이 감지되면 대화를 자동 종료하고 반복 시 계정을 일시 정지한다. 연령 판별 시스템도 강화해 18세 미만으로 추정되면 실제 설정 나이와 무관하게 청소년용 환경으로 자동 전환하도록 했다. 2026년 3분기 200건 이상의 위협 사례를 사법기관에 신고했으며, 커먼 센스 미디어 등이 제기한 보호 기능 미흡 지적에 대한 대응으로 풀이된다.

• 청소년 대상 무기·보안 시스템 관련 실용 정보 제공 제한
• 폭력 집착 감지 시 대화 자동 종료, 반복되면 계정 일시 정지 및 부모 알림
• 연령 판별 강화로 18세 미만 추정 시 청소년용 환경 자동 전환
• 2026년 3분기 위협 사례 200건 이상 사법기관 신고
• 커먼 센스 미디어, 기존 보호 기능의 알림 지연·미통지 문제 지적한 바 있음