이 논문은 LLM 에이전트에 재사용 가능한 지침 패키지(스크립트·리소스·서비스 설정 포함)를 추가하는 'Agent Skill'이 악성 행위 배포 경로로 악용될 수 있다는 문제의식에서, 공개된 13개 출처를 통합해 만든 악성 스킬 탐지 벤치마크 MaliciousSkillBench를 제시한다. 원본 악성 레코드 8,414건을 정규화해 최종 벤치마크는 악성 7,505개·정상 2,235개, 총 9,740개 스킬로 구성됐다. 학습 기반 텍스트 탐지기는 무작위 평가에서 0.882~0.932의 Macro-F1을 기록했지만 출처를 완전히 분리한 평가에서는 0.653~0.665로 급락했고, 가장 우수했던 TF-IDF SVM도 미검증 출처에서는 악성 탐지율 95.6%를 유지하는 대신 정상 오탐률이 62.4%에 달했다. 신뢰할 수 있는 악성 스킬 탐지를 위해서는 더 넓은 교차 출처 벤치마크와 공동 평가가 필요함을 시사한다.
- •공개 13개 출처를 통합해 악성/정상 스킬 9,740개(악성 7,505·정상 2,235)로 구성한 벤치마크 MaliciousSkillBench 제시
- •학습 기반 탐지기, 무작위 평가 Macro-F1 0.88~0.93 → 출처 완전 분리 평가에서 0.65~0.67로 급락
- •최고 성능 TF-IDF SVM, 악성 탐지율 95.6% 유지하지만 미검증 출처 정상 오탐률 62.4%
- •기존 오프더셀프 스캐너는 오탐 감소 시 악성 탐지율이 크게 떨어지는 트레이드오프 확인
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
MaliciousSkillBench: A Comprehensive Benchmark for Malicious Agent Skill Detection
- 1.MaliciousSkillBench: 13개 공개 소스를 통합해 악성 Agent Skill 탐지를 위한 최초의 대규모 벤치마크 구축
- 2.8,414건 원시 악성 기록을 7,539개 정규화 고유 식별자로 정제, 최종 악성 7,505·양성 2,235건 구성
- 3.학습된 텍스트 탐지기는 무작위 평가 F1 0.882~0.932이지만 출처 분리 평가에선 0.653~0.665로 급락
- 4.최상위 TF-IDF SVM은 악성 재현율 95.6%지만 미보 소스에서 양성 오탐률(FPR) 62.4%로 실용성 미혹
왜 중요한가?
LLM 에이전트의 재사용 가능한 Skill 패키지는 악성 코드 유포의 새로운 경로가 될 수 있는데, 기존 탐지기가 훈련 데이터와 다른 출처에서는 성능이 크게 떨어짐을 밝혀 Skill 생태계의 보안 검증 체계가 아직 미흡함을 보여준다.
언급 프로젝트
LLM 에이전트의 '기술(Skill)'을 통한 악성 행위가 확산될 가능성을 다루는 이 연구는 국내 AI 에이전트 개발 및 활용 기업들에게 중요한 경고등입니다. 악성 에이전트 스킬 탐지를 위한 포괄적인 벤치마크는 국내에서 AI 에이전트의 안전한 배포와 윤리적 활용을 위한 필수적인 보안 검증 기준을 제시하며, 잠재적 위협으로부터 사용자 보호를 위한 기술 개발의 시급성을 강조합니다.
본문 미리보기
arXiv:2608.19901v1 Announce Type: new Abstract: Agent Skills extend LLM agents with reusable instruction packages that may also include scripts, resources, and service configuration. This creates a direct distribution channel for malicious behavior, yet existing malicious-Skill datasets are fragmented across sources, artifact formats, evidence regimes, and benign coverage; duplicated and structurally related content further complicates direct aggregation and evaluation. We present MaliciousSkil
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 11:24AI 초안
![[AI리더의 서가] Agentic AI 구축 개발의 모든 것](https://cdn.aitimes.com/news/photo/202610/215958_219938_244.jpg)
