LLM-Driven Autonomous Vehicles Inherit Human Driver Biases in Pedestrian Yielding: Results and Implications From A New Benchmark | AIChainDay

한국어 요약by Claude · 2026. 9. 4.

연구진은 자율주행차(AV)가 의사결정에 활용하는 범용 '상식' 모델이 인간 운전자의 편향을 그대로 물려받는지를 검증했다. 미국에서 흑인 보행자에게 양보율이 낮게 나타나는 등 인간 운전자 편향이 심리학 연구로 확인된 점에 착안해, LLM과 시각언어모델(VLM)의 보행자 양보 결정 편향을 측정하는 'All Else Being Equal' 테스트와 '자기일관성' 테스트라는 두 가지 새 방법론을 제안했다. 실험 결과 LLM과 VLM 모두 보행자의 성별, 인종, 종교, 장애, 연령, 피부색, 사회경제적 지위에 따라 양보 결정이 달라지는 편향을 보였으며, 편향의 종류와 정도는 모델마다 달랐지만 공통 패턴이 확인됐다. 이는 자율주행 의사결정에 상식 모델을 그대로 적용하는 패러다임을 재검토하거나 하위 단계의 편향 문제를 해결할 필요성을 제기한다.

•자율주행에 쓰이는 범용 상식 모델이 인간 운전자 편향을 상속받는지 검증
•'All Else Being Equal', '자기일관성' 테스트로 보행자 양보 편향 측정 방법론 제안
•LLM·VLM 모두 성별·인종·종교·장애·연령·피부색·사회경제적 지위에 따라 양보 결정 다름
•모델별 편향 정도는 다르나 공통 패턴이 존재해 '상식' 모델 패러다임 재검토 필요성 제기

0단 자동

AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.

규칙 판: 규칙 판 도입 이전 기사입니다.
남기는 것: 규칙 판 · 모델 · 시각
판 기록: 아직 없습니다.

AI2026년 9월 2일AI 점수: 80%

LLM-Driven Autonomous Vehicles Inherit Human Driver Biases in Pedestrian Yielding: Results and Implications From A New Benchmark

출처:arXiv cs.AI

AI 인사이트

개발자일반

1.자율주행 LLM·VLM의 보행자 양보 판단 편향을 검증하는 두 가지 새 테스트 기법을 제안
2.LLM과 VLM 모두 보행자의 성별·인종·종교·장애·연령·피부색 등에 따라 양보 결정이 달라짐
3.모델별 편향 양상은 다르지만 공통 패턴이 관찰돼 범용 '상식' 모델 활용에 의문 제기

왜 중요한가?

자율주행 신뢰는 기술적 정확도뿐 아니라 의사결정의 공정성에도 좌우된다는 점에서, 범용 LLM을 AV 판단에 접목하기 전 편향 검증이 필수 절차가 돼야 함을 보여준다.

본문 미리보기

arXiv:2609.00192v1 Announce Type: new Abstract: Public trust in Autonomous Vehicles (AVs) may depend not only on technical success but also on the fairness of their decision making. While a recent trend in AV research involves using general purpose "common sense" models to guide AV decision making, the degree to which these inherit human biases in driving is still understudied. Given that psychology studies have shown human driver biases exist, such as lower pedestrian-yielding rates to Black p

전체 내용이 궁금하다면?

원문을 직접 읽어보세요

원문 보기