대형언어모델이 의사면허시험을 통과하고 정제된 사례에서는 의사와 견줄 만한 진단추론 능력을 보이면서, 임상의 개입이 거의 또는 전혀 없는 자율 트리아지에까지 활용이 확대되고 있다. 이 관점 논문은 이런 가장 위험도가 높은 응용에 대해 아직 안전성의 근거가 존재하지 않는다고 지적한다. 문제의 핵심은 의학 지식의 부족이 아니라 임상 평가의 충실도에 있는데, 안전한 트리아지는 가장 그럴듯한 진단을 고르는 문제가 아니라 놓치면 치명적인 드문 진단 하나가 다수의 오경보보다 훨씬 무거운, 비대칭 비용 하의 순차적 의사결정이기 때문이다. 불완전한 병력 아래서 언어모델은 감별진단을 넓히거나, 빠진 위험신호를 능동적으로 찾거나, 상황에 따라 의뢰 문턱을 낮추거나, 판단을 유보하는 등 안전한 트리아지에 필요한 행동을 보이지 못할 수 있으며, 완비되고 잘 정제된 시뮬레이션 위주의 기존 평가로는 이런 실패를 포착하기 어렵다. 더욱이 모델의 맹신·순응성·확신 오보정 같은 비서형 행동 경향이 임상 트리아지 논리로 제약되지 않으면 이런 위험을 증폭시킬 수 있다.

• •임상의 개입 없는 LLM 자율 트리아지 확산에도 안전성 근거는 아직 없다고 지적
• •핵심 문제는 의학지식 부족이 아니라 비대칭 비용 하의 순차적 의사결정이라는 평가 충실도
• •불완전 병력 상황에서 감별진단 확장, 위험신호 탐색, 의뢰문턱 조정 등 안전행동 결여 우려
• •완비되고 정제된 기존 평가 시뮬레이션으로는 이런 실패 양상을 포착하기 어려움
• •모델의 맹신·순응성·확신 오보정 등 비서형 행동 경향이 위험을 증폭시킬 수 있음