라이언 리서치 연구소 김상백 소장은 AI가 사람의 감정·의도를 해석해 기록으로 남기고 이후 판단에 영향을 미치는 '해석 취약성' 문제를 제기했다. 민원 문구를 AI가 '격앙'으로 분류해 상담 경로를 바꾸면, 당사자가 정정을 요구해도 이미 파생된 위험등급이나 후속 기록까지 함께 고쳐지지 않는 경우가 많다는 것이다. 그는 AI 감독이 실질적이려면 담당자가 판단 근거를 볼 수 있고, 당사자 설명을 다시 들을 시간이 있으며, AI 결론을 실제로 뒤집을 권한을 가져야 한다고 주장했다. 해법으로 불필요한 감정 추론 자제, 라벨에 대한 이의제기·정정 전파, 실질적 권한을 가진 인간 재심 등 네 가지 원칙을 90일 시범 운영으로 시작할 것을 제안했다.

• •'해석 취약성': AI가 사람에게 붙인 해석이 서비스·기록·기회에 영향을 미치는데 당사자가 되돌릴 힘이 부족한 상태로 정의
• •라벨 정정이 최초 화면에서만 반영되고 이미 파생된 위험등급·후속 기록엔 전파되지 않는 문제 지적
• •인간 감독이 실효성을 가지려면 담당자가 AI 결론을 실제로 중단·폐기할 권한을 가져야 한다고 주장
• •필요하지 않은 내적 상태(분노 수준 등) 추론 자체를 하지 않는 것이 최선이라는 원칙 제시
• •민원·복지·상담 등 공공 AI 한 건을 골라 90일간 시범 운영해볼 것을 실행 방안으로 제안