이 연구는 보안 전문가들의 합의로 만들어진 'OWASP Top 10 for LLM Applications' 순위가 실제 사고 데이터와 얼마나 일치하는지 검증했다. CVE, GHSA, OSV, AIAAIC에서 수집한 7,714건의 LLM 보안 사고 스냅샷 중 6,639건을 20개 항목 분류체계에 라벨링하고, 분류기의 정밀도·재현율 오차를 보정하는 베이지안 측정오차 모델로 사고 기반 순위를 도출했다. 전문가 투표에 0.75, 데이터에 0.25 가중치를 부여한 결과, 두 순위 간 일치도는 코헨의 카파 약 0.20으로 약한 수준(90% 구간이 0을 포함)에 그쳤다. 그럼에도 전문가 순위 자체는 견고한 것으로 나타났는데, 4개 프론티어 분류기를 사전등록 방식으로 겨룬 결과 어느 것도 사고 발생 빈도 기준선의 균형정확도 0.863을 넘지 못했고, 홀드아웃 검증에서도 기준선의 순위(스피어만 상관계수 0.918)가 유지됐다. 연구진은 이번 분석이 OWASP의 공식 발표가 아닌 워킹그룹 구성원 2인의 탐색적 분석임을 명시했다.
- •OWASP Top 10 전문가 순위와 실제 사고 데이터 기반 순위의 일치도는 코헨의 카파 약 0.20으로 낮음
- •7,714건 사고 스냵샷 중 6,639건을 20개 분류체계로 라벨링, 베이지안 측정오차 모델로 보정
- •프론티어 분류기 4종 모두 사고 빈도 기준선(균형정확도 0.863)을 넘지 못해 전문가 순위의 견고함 확인
- •이 분석은 OWASP 공식 발표가 아닌 워킹그룹 구성원 2인의 탐색적 연구임을 명시
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
Incident-Data Robustness Analysis of the OWASP Top 10 for LLM Applications (2026): How a Community-Expert Ranking Holds Up Against a Large-Scale LLM Incident Corpus
- 1.OWASP LLM Top10 전문가 순위를 실제 사고 데이터(7,714건 중 6,639건 라벨링)와 비교
- 2.베이지안 측정오차 모델로 보정한 사고 기반 순위를 도출, 전문가 투표와 0.75:0.25로 가중 결합
- 3.두 순위 간 일치도는 낮음(Cohen's κ≈0.20), 90% 구간이 0을 가로질러 통계적 유의성 불분명
- 4.최신 분류기 4종 사전등록 비교에서 사고 발생률 기준선(균형정확도 0.863)을 이기는 모델이 없음
왜 중요한가?
보안 커뮤니티가 합의한 LLM 위협 순위가 실제 사고 데이터와 약하게만 일치한다는 점을 정량적으로 드러내면서도, 전문가 순위 자체는 최신 분류 모델조차 이기지 못할 만큼 견고함을 보여 위험 우선순위 설정 방식에 시사점을 준다.
언급 프로젝트
본문 미리보기
arXiv:2608.19266v1 Announce Type: new Abstract: The OWASP Top 10 for LLM Applications ranks the risks that a community of security practitioners judges most important. We ask a narrower question: checked against the record of real incidents, does that expert ranking agree with the data? We assembled a large-scale corpus of LLM-security incidents (7,714 snapshotted and 6,639 labeled against the 20-entry taxonomy) drawn from CVE, GHSA, OSV, and AIAAIC, and derived an incident-based ranking with a
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 11:24AI 초안
![[AI리더의 서가] Agentic AI 구축 개발의 모든 것](https://cdn.aitimes.com/news/photo/202610/215958_219938_244.jpg)
