MIT 연구진과 자율주행 기업 모셔널이 자율주행 AI의 블랙박스 판단을 사람이 이해할 수 있는 개념으로 변환하는 '컨셉트 래퍼 네트워크(CW-Net)'를 개발했다. CW-Net은 주행 계획기의 중간 단계에 개념 분류기를 연결해 '자전거 이용자 근접', '정차 차량 접근' 같은 개념으로 실시간 판단 근거를 제공하며, 실제 테스트에서 안전 운전자가 오인했던 정차 원인(비상제동 작동)을 정확히 짚어냈다. 1억3000만개의 라벨링된 주행 장면으로 학습했고, 모셔널의 로보택시 시험 차량과 라스베이거스 주행 데이터를 활용한 대규모 시뮬레이션에서 안전 운전자와 비전문가 모두의 예측 정확도를 유의미하게 높였다. 연구를 이끈 줄리 샤 MIT 교수는 설명 가능성이 기존 딥러닝 모델의 주행 성능을 해치지 않으면서도 인간의 신뢰와 안전에 기여할 수 있다고 강조했으며, 연구 결과는 네이처에 게재됐다.

• •MIT·모셔널, 자율주행 AI 판단을 개념으로 변환하는 'CW-Net' 개발
• •실시간으로 '왜 멈췄는지' 등 판단 근거를 사람이 이해할 개념으로 제공
• •1억3000만개 라벨링 주행 장면으로 학습, 기존 주행 성능 저하 없이 설명력 확보
• •실제 시험·대규모 시뮬레이션에서 안전 운전자·비전문가의 예측 정확도 향상
• •연구 결과는 국제학술지 네이처(Nature)에 게재