ASPIRE: Agentic Safety & Prompt Injection Red-teaming Engine

출처:arXiv cs.CR (암호학·보안)

AI 인사이트

개발자

1.ASPIRE: 사전 지정 시나리오 대신 개방형 행동 공간에서 에이전트 취약점을 찾는 레드티밍 엔진
2.탐색(Explore)·공략(Exploit) 전문가가 협력해 공격을 발견·검증·일반화
3.에이전트 보안 행동 그래프를 지속 갱신, 실행 궤적 증거로 부분·실패 시도도 진단
4.실행 간 메모리 전이로 유효 전략을 재사용해 다양한 벤치마크에서 범위 확대

왜 중요한가?

미리 정해둔 공격 시나리오만 테스트하던 기존 자동 레드티밍의 한계를 넘어, 프롬프트 인젝션의 공격 방법·환경·행동 경로 전반에서 숨은 취약점을 찾아내 에이전트 안전성 평가의 포괄성을 크게 높인다.

언급 프로젝트

ASPIRE

본문 미리보기

arXiv:2610.08951v1 Announce Type: new Abstract: LLM agents retrieve untrusted content and act through tools, creating indirect prompt-injection risks that can cause unauthorized actions or persistent state changes. Existing automated red-teaming largely optimizes payloads for pre-specified scenarios, leaving latent vulnerabilities across the agent's behavior space unexplored. We present ASPIRE, an Agentic Safety & Prompt Injection Red-teaming Engine for open-ended, behavior-level vulnerability

전체 내용이 궁금하다면?

원문을 직접 읽어보세요

원문 보기

#에이전트안전성#레드팀#프롬프트인젝션

이 글이 만들어진 과정

11:24AI 초안

판 이력 전체 보기 →

3시간 전

AudioShake Launches The Refinery to Turn Overlapping Conversations Into AI Training Data

People interrupt. They laugh over someone else’s last sentence, offer a quick agreement before a speaker has finished, and keep talking while music or traffic fills the background. For a voice AI developer, that everyday messiness creates a difficult data problem: a recording can contain exactly the

미디어Unite.AI

원문

ASPIRE: Agentic Safety & Prompt Injection Red-teaming Engine

본문 미리보기

이 글이 만들어진 과정

관련 글

AudioShake Launches The Refinery to Turn Overlapping Conversations Into AI Training Data

Lava Finds Thousands of Exposed GPU Servers and a High-Severity NVIDIA Monitoring Flaw

Roundtables: A Conversation With the Creator of AI-Designed Viruses

ttok 0.4