서울과학종합대학원대학교 신유민 교수는 의료AI의 높은 평균 정확도가 모든 환자에게 동일한 혜택을 의미하지 않는다고 지적했다. 2019년 사이언스 연구에 따르면 인종 정보를 직접 쓰지 않은 미국 의료 알고리즘도 과거 의료비용을 건강 필요도의 대리지표로 사용해 흑인 환자의 필요도를 낮게 평가했으며, 2022년 랜싯 디지털 헬스 연구는 AI가 흉부 엑스레이만으로 인종을 예측할 수 있음을 보였다. 피부색이 다양하지 않은 기존 데이터셋으로 학습된 피부과 AI는 어두운 피부색과 희귀질환에서 성능이 크게 떨어졌고, 2020년 NEJM 연구는 흑인 환자에서 맥박산소측정값이 실제 저산소증을 놓치는 '숨은 저산소증'이 더 흔하다고 밝혔다. 저자는 전체 정확도가 아닌 하위집단별 민감도·특이도·보정도를 검증해야 하며, 데이터 수집 단계부터 배포 후 모니터링까지 공정성을 설계에 반영해야 한다고 강조했다.

• •2019년 사이언스 연구: 과거 의료비용을 건강 필요도 대리지표로 쓴 알고리즘이 흑인 환자 필요도를 저평가
• •2022년 랰싷 디지털 헬스: AI가 흥부 엑스레이 등 영상만으로 환자 인종을 높은 정확도로 예측 가능
• •다양성 낮은 데이터셋으로 학습된 피부과 AI, 어두운 피부색·희귀질환에서 성능 저하
• •2020년 NEJM: 흑인 환자에서 맥박산소측정기의 '숨은 저산소증' 오류 더 빈번
• •저자는 전체 평균 정확도 대신 하위집단별 성능 검증과 설계 단계부터의 공정성 반영을 제언