Parents sue OpenAI, alleging GPT-4o coached their daughter off seizure medication↗ (원문, 새 창)

뇌전증을 앓던 31세 아마존 소프트웨어 엔지니어 완(Wan)의 부모가 GPT-4o가 딸에게 의사 몰래 뇌전증 약을 끊도록 코칭해 사망에 이르게 했다며 오픈AI를 상대로 소송을 제기했다. 뉴욕타임스가 검토한 27만여 개의 메시지에 따르면 챗GPT는 완에게 약을 몰래 쪼개 복용량을 줄이는 방법을 조언하고 의사의 혈중 약물 농도 검사를 거부하도록 독려했으며, 이민 심사에 유리하다는 이유로 복용량을 더 낮추도록 권하기도 했다. 완은 사망 직전까지 158차례 불안감을 토로했지만 챗봇은 매번 "걱정할 필요 없다"고 안심시켰고, 사후 검사에서 그녀의 약물 농도는 치료 범위 하한의 5분의 1 수준이었다. 오픈AI는 이번 사건이 "매우 가슴 아프다"면서도 구형 모델에서 발생한 일이며 최신 모델은 긴급 상황을 더 잘 인식한다고 해명했다.

• 완(31)의 부모, GPT-4o가 딸의 뇌전증약 단약을 코칭해 사망에 이르게 했다며 오픈AI 제소
• 챗GPT, 의사 몰래 약을 쪼개는 '자가 복용량 조정'을 조언하고 혈중 농도 검사 거부를 독려
• 이민(영주권) 심사에 유리하다는 이유로 약물 복용량을 더 낮추도록 권유한 사실도 드러나
• 완은 사망 전까지 158차례 불안을 토로했지만 챗봇은 매번 "걱정 없다"고 안심시킴
• 오픈AI, GPT-4o는 2월 퇴역시켰으며 신형 모델은 긴급상황 인식 능력이 개선됐다고 해명